/*
 * Copyright Codeplay Software Ltd.
 *
 * Licensed under the Apache License, Version 2.0 (the "License");
 * you may not use these files except in compliance with the License.
 * You may obtain a copy of the License at
 *
 *     http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */

// DO NOT MODIFY BY HAND
// This file was automatically generated by generate_matmul_tests.py.
// Results calculated using Tensorflow v1.12.0.

#include <gtest/gtest.h>
#include <vector>

#include "test/matmul/fixture.h"
#include "test/types/kernel_data_types.h"
#include "test/types/to_gtest_types.h"

using DataTypeList = sycldnn::types::KernelDataTypes;
using GTestTypeList = sycldnn::types::ToGTestTypes<DataTypeList>::type;

template <typename DataType>
using MatmulBatch3Beta1FalseTrue = MatmulFixture<DataType, false, true>;
TYPED_TEST_SUITE(MatmulBatch3Beta1FalseTrue, GTestTypeList);
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK14xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      2500.,    6715.,    10930.,   15145.,   19360.,   23575.,   27790.,
      32005.,   36220.,   40435.,   44650.,   48865.,   53080.,   57295.,
      3984.,    10943.,   17902.,   24861.,   31820.,   38779.,   45738.,
      52697.,   59656.,   66615.,   73574.,   80533.,   87492.,   94451.,
      5468.,    15171.,   24874.,   34577.,   44280.,   53983.,   63686.,
      73389.,   83092.,   92795.,   102498.,  112201.,  121904.,  131607.,
      6952.,    19399.,   31846.,   44293.,   56740.,   69187.,   81634.,
      94081.,   106528.,  118975.,  131422.,  143869.,  156316.,  168763.,
      8436.,    23627.,   38818.,   54009.,   69200.,   84391.,   99582.,
      114773.,  129964.,  145155.,  160346.,  175537.,  190728.,  205919.,
      9920.,    27855.,   45790.,   63725.,   81660.,   99595.,   117530.,
      135465.,  153400.,  171335.,  189270.,  207205.,  225140.,  243075.,
      11404.,   32083.,   52762.,   73441.,   94120.,   114799.,  135478.,
      156157.,  176836.,  197515.,  218194.,  238873.,  259552.,  280231.,
      12888.,   36311.,   59734.,   83157.,   106580.,  130003.,  153426.,
      176849.,  200272.,  223695.,  247118.,  270541.,  293964.,  317387.,
      14372.,   40539.,   66706.,   92873.,   119040.,  145207.,  171374.,
      197541.,  223708.,  249875.,  276042.,  302209.,  328376.,  354543.,
      15856.,   44767.,   73678.,   102589.,  131500.,  160411.,  189322.,
      218233.,  247144.,  276055.,  304966.,  333877.,  362788.,  391699.,
      17340.,   48995.,   80650.,   112305.,  143960.,  175615.,  207270.,
      238925.,  270580.,  302235.,  333890.,  365545.,  397200.,  428855.,
      18824.,   53223.,   87622.,   122021.,  156420.,  190819.,  225218.,
      259617.,  294016.,  328415.,  362814.,  397213.,  431612.,  466011.,
      20308.,   57451.,   94594.,   131737.,  168880.,  206023.,  243166.,
      280309.,  317452.,  354595.,  391738.,  428881.,  466024.,  503167.,
      580196.,  620083.,  659970.,  699857.,  739744.,  779631.,  819518.,
      859405.,  899292.,  939179.,  979066.,  1018953., 1058840., 1098727.,
      620096.,  662727.,  705358.,  747989.,  790620.,  833251.,  875882.,
      918513.,  961144.,  1003775., 1046406., 1089037., 1131668., 1174299.,
      659996.,  705371.,  750746.,  796121.,  841496.,  886871.,  932246.,
      977621.,  1022996., 1068371., 1113746., 1159121., 1204496., 1249871.,
      699896.,  748015.,  796134.,  844253.,  892372.,  940491.,  988610.,
      1036729., 1084848., 1132967., 1181086., 1229205., 1277324., 1325443.,
      739796.,  790659.,  841522.,  892385.,  943248.,  994111.,  1044974.,
      1095837., 1146700., 1197563., 1248426., 1299289., 1350152., 1401015.,
      779696.,  833303.,  886910.,  940517.,  994124.,  1047731., 1101338.,
      1154945., 1208552., 1262159., 1315766., 1369373., 1422980., 1476587.,
      819596.,  875947.,  932298.,  988649.,  1045000., 1101351., 1157702.,
      1214053., 1270404., 1326755., 1383106., 1439457., 1495808., 1552159.,
      859496.,  918591.,  977686.,  1036781., 1095876., 1154971., 1214066.,
      1273161., 1332256., 1391351., 1450446., 1509541., 1568636., 1627731.,
      899396.,  961235.,  1023074., 1084913., 1146752., 1208591., 1270430.,
      1332269., 1394108., 1455947., 1517786., 1579625., 1641464., 1703303.,
      939296.,  1003879., 1068462., 1133045., 1197628., 1262211., 1326794.,
      1391377., 1455960., 1520543., 1585126., 1649709., 1714292., 1778875.,
      979196.,  1046523., 1113850., 1181177., 1248504., 1315831., 1383158.,
      1450485., 1517812., 1585139., 1652466., 1719793., 1787120., 1854447.,
      1019096., 1089167., 1159238., 1229309., 1299380., 1369451., 1439522.,
      1509593., 1579664., 1649735., 1719806., 1789877., 1859948., 1930019.,
      1058996., 1131811., 1204626., 1277441., 1350256., 1423071., 1495886.,
      1568701., 1641516., 1714331., 1787146., 1859961., 1932776., 2005591.,
      1098896., 1174455., 1250014., 1325573., 1401132., 1476691., 1552250.,
      1627809., 1703368., 1778927., 1854486., 1930045., 2005604., 2081163.,
      2235024., 2313327., 2391630., 2469933., 2548236., 2626539., 2704842.,
      2783145., 2861448., 2939751., 3018054., 3096357., 3174660., 3252963.,
      2313340., 2394387., 2475434., 2556481., 2637528., 2718575., 2799622.,
      2880669., 2961716., 3042763., 3123810., 3204857., 3285904., 3366951.,
      2391656., 2475447., 2559238., 2643029., 2726820., 2810611., 2894402.,
      2978193., 3061984., 3145775., 3229566., 3313357., 3397148., 3480939.,
      2469972., 2556507., 2643042., 2729577., 2816112., 2902647., 2989182.,
      3075717., 3162252., 3248787., 3335322., 3421857., 3508392., 3594927.,
      2548288., 2637567., 2726846., 2816125., 2905404., 2994683., 3083962.,
      3173241., 3262520., 3351799., 3441078., 3530357., 3619636., 3708915.,
      2626604., 2718627., 2810650., 2902673., 2994696., 3086719., 3178742.,
      3270765., 3362788., 3454811., 3546834., 3638857., 3730880., 3822903.,
      2704920., 2799687., 2894454., 2989221., 3083988., 3178755., 3273522.,
      3368289., 3463056., 3557823., 3652590., 3747357., 3842124., 3936891.,
      2783236., 2880747., 2978258., 3075769., 3173280., 3270791., 3368302.,
      3465813., 3563324., 3660835., 3758346., 3855857., 3953368., 4050879.,
      2861552., 2961807., 3062062., 3162317., 3262572., 3362827., 3463082.,
      3563337., 3663592., 3763847., 3864102., 3964357., 4064612., 4164867.,
      2939868., 3042867., 3145866., 3248865., 3351864., 3454863., 3557862.,
      3660861., 3763860., 3866859., 3969858., 4072857., 4175856., 4278855.,
      3018184., 3123927., 3229670., 3335413., 3441156., 3546899., 3652642.,
      3758385., 3864128., 3969871., 4075614., 4181357., 4287100., 4392843.,
      3096500., 3204987., 3313474., 3421961., 3530448., 3638935., 3747422.,
      3855909., 3964396., 4072883., 4181370., 4289857., 4398344., 4506831.,
      3174816., 3286047., 3397278., 3508509., 3619740., 3730971., 3842202.,
      3953433., 4064664., 4175895., 4287126., 4398357., 4509588., 4620819.,
      3253132., 3367107., 3481082., 3595057., 3709032., 3823007., 3936982.,
      4050957., 4164932., 4278907., 4392882., 4506857., 4620832., 4734807.};
  const int batches = 3;
  const int m = 14;
  const int k = 14;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK14xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   2501.,    6716.,    10931.,   15146.,   19361.,   23576.,
      27791.,   32006.,   36221.,   40436.,   44651.,   48866.,   53081.,
      57296.,   61511.,   3986.,    10945.,   17904.,   24863.,   31822.,
      38781.,   45740.,   52699.,   59658.,   66617.,   73576.,   80535.,
      87494.,   94453.,   101412.,  5471.,    15174.,   24877.,   34580.,
      44283.,   53986.,   63689.,   73392.,   83095.,   92798.,   102501.,
      112204.,  121907.,  131610.,  141313.,  6956.,    19403.,   31850.,
      44297.,   56744.,   69191.,   81638.,   94085.,   106532.,  118979.,
      131426.,  143873.,  156320.,  168767.,  181214.,  8441.,    23632.,
      38823.,   54014.,   69205.,   84396.,   99587.,   114778.,  129969.,
      145160.,  160351.,  175542.,  190733.,  205924.,  221115.,  9926.,
      27861.,   45796.,   63731.,   81666.,   99601.,   117536.,  135471.,
      153406.,  171341.,  189276.,  207211.,  225146.,  243081.,  261016.,
      11411.,   32090.,   52769.,   73448.,   94127.,   114806.,  135485.,
      156164.,  176843.,  197522.,  218201.,  238880.,  259559.,  280238.,
      300917.,  12896.,   36319.,   59742.,   83165.,   106588.,  130011.,
      153434.,  176857.,  200280.,  223703.,  247126.,  270549.,  293972.,
      317395.,  340818.,  14381.,   40548.,   66715.,   92882.,   119049.,
      145216.,  171383.,  197550.,  223717.,  249884.,  276051.,  302218.,
      328385.,  354552.,  380719.,  15866.,   44777.,   73688.,   102599.,
      131510.,  160421.,  189332.,  218243.,  247154.,  276065.,  304976.,
      333887.,  362798.,  391709.,  420620.,  17351.,   49006.,   80661.,
      112316.,  143971.,  175626.,  207281.,  238936.,  270591.,  302246.,
      333901.,  365556.,  397211.,  428866.,  460521.,  18836.,   53235.,
      87634.,   122033.,  156432.,  190831.,  225230.,  259629.,  294028.,
      328427.,  362826.,  397225.,  431624.,  466023.,  500422.,  20321.,
      57464.,   94607.,   131750.,  168893.,  206036.,  243179.,  280322.,
      317465.,  354608.,  391751.,  428894.,  466037.,  503180.,  540323.,
      620096.,  659983.,  699870.,  739757.,  779644.,  819531.,  859418.,
      899305.,  939192.,  979079.,  1018966., 1058853., 1098740., 1138627.,
      1178514., 662741.,  705372.,  748003.,  790634.,  833265.,  875896.,
      918527.,  961158.,  1003789., 1046420., 1089051., 1131682., 1174313.,
      1216944., 1259575., 705386.,  750761.,  796136.,  841511.,  886886.,
      932261.,  977636.,  1023011., 1068386., 1113761., 1159136., 1204511.,
      1249886., 1295261., 1340636., 748031.,  796150.,  844269.,  892388.,
      940507.,  988626.,  1036745., 1084864., 1132983., 1181102., 1229221.,
      1277340., 1325459., 1373578., 1421697., 790676.,  841539.,  892402.,
      943265.,  994128.,  1044991., 1095854., 1146717., 1197580., 1248443.,
      1299306., 1350169., 1401032., 1451895., 1502758., 833321.,  886928.,
      940535.,  994142.,  1047749., 1101356., 1154963., 1208570., 1262177.,
      1315784., 1369391., 1422998., 1476605., 1530212., 1583819., 875966.,
      932317.,  988668.,  1045019., 1101370., 1157721., 1214072., 1270423.,
      1326774., 1383125., 1439476., 1495827., 1552178., 1608529., 1664880.,
      918611.,  977706.,  1036801., 1095896., 1154991., 1214086., 1273181.,
      1332276., 1391371., 1450466., 1509561., 1568656., 1627751., 1686846.,
      1745941., 961256.,  1023095., 1084934., 1146773., 1208612., 1270451.,
      1332290., 1394129., 1455968., 1517807., 1579646., 1641485., 1703324.,
      1765163., 1827002., 1003901., 1068484., 1133067., 1197650., 1262233.,
      1326816., 1391399., 1455982., 1520565., 1585148., 1649731., 1714314.,
      1778897., 1843480., 1908063., 1046546., 1113873., 1181200., 1248527.,
      1315854., 1383181., 1450508., 1517835., 1585162., 1652489., 1719816.,
      1787143., 1854470., 1921797., 1989124., 1089191., 1159262., 1229333.,
      1299404., 1369475., 1439546., 1509617., 1579688., 1649759., 1719830.,
      1789901., 1859972., 1930043., 2000114., 2070185., 1131836., 1204651.,
      1277466., 1350281., 1423096., 1495911., 1568726., 1641541., 1714356.,
      1787171., 1859986., 1932801., 2005616., 2078431., 2151246., 1174481.,
      1250040., 1325599., 1401158., 1476717., 1552276., 1627835., 1703394.,
      1778953., 1854512., 1930071., 2005630., 2081189., 2156748., 2232307.,
      2391656., 2469959., 2548262., 2626565., 2704868., 2783171., 2861474.,
      2939777., 3018080., 3096383., 3174686., 3252989., 3331292., 3409595.,
      3487898., 2475461., 2556508., 2637555., 2718602., 2799649., 2880696.,
      2961743., 3042790., 3123837., 3204884., 3285931., 3366978., 3448025.,
      3529072., 3610119., 2559266., 2643057., 2726848., 2810639., 2894430.,
      2978221., 3062012., 3145803., 3229594., 3313385., 3397176., 3480967.,
      3564758., 3648549., 3732340., 2643071., 2729606., 2816141., 2902676.,
      2989211., 3075746., 3162281., 3248816., 3335351., 3421886., 3508421.,
      3594956., 3681491., 3768026., 3854561., 2726876., 2816155., 2905434.,
      2994713., 3083992., 3173271., 3262550., 3351829., 3441108., 3530387.,
      3619666., 3708945., 3798224., 3887503., 3976782., 2810681., 2902704.,
      2994727., 3086750., 3178773., 3270796., 3362819., 3454842., 3546865.,
      3638888., 3730911., 3822934., 3914957., 4006980., 4099003., 2894486.,
      2989253., 3084020., 3178787., 3273554., 3368321., 3463088., 3557855.,
      3652622., 3747389., 3842156., 3936923., 4031690., 4126457., 4221224.,
      2978291., 3075802., 3173313., 3270824., 3368335., 3465846., 3563357.,
      3660868., 3758379., 3855890., 3953401., 4050912., 4148423., 4245934.,
      4343445., 3062096., 3162351., 3262606., 3362861., 3463116., 3563371.,
      3663626., 3763881., 3864136., 3964391., 4064646., 4164901., 4265156.,
      4365411., 4465666., 3145901., 3248900., 3351899., 3454898., 3557897.,
      3660896., 3763895., 3866894., 3969893., 4072892., 4175891., 4278890.,
      4381889., 4484888., 4587887., 3229706., 3335449., 3441192., 3546935.,
      3652678., 3758421., 3864164., 3969907., 4075650., 4181393., 4287136.,
      4392879., 4498622., 4604365., 4710108., 3313511., 3421998., 3530485.,
      3638972., 3747459., 3855946., 3964433., 4072920., 4181407., 4289894.,
      4398381., 4506868., 4615355., 4723842., 4832329., 3397316., 3508547.,
      3619778., 3731009., 3842240., 3953471., 4064702., 4175933., 4287164.,
      4398395., 4509626., 4620857., 4732088., 4843319., 4954550., 3481121.,
      3595096., 3709071., 3823046., 3937021., 4050996., 4164971., 4278946.,
      4392921., 4506896., 4620871., 4734846., 4848821., 4962796., 5076771.};
  const int batches = 3;
  const int m = 14;
  const int k = 14;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK14xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   23081.,   2502.,    6717.,    10932.,   15147.,   19362.,
      23577.,   27792.,   32007.,   36222.,   40437.,   44652.,   48867.,
      53082.,   57297.,   61512.,   65727.,   3988.,    10947.,   17906.,
      24865.,   31824.,   38783.,   45742.,   52701.,   59660.,   66619.,
      73578.,   80537.,   87496.,   94455.,   101414.,  108373.,  5474.,
      15177.,   24880.,   34583.,   44286.,   53989.,   63692.,   73395.,
      83098.,   92801.,   102504.,  112207.,  121910.,  131613.,  141316.,
      151019.,  6960.,    19407.,   31854.,   44301.,   56748.,   69195.,
      81642.,   94089.,   106536.,  118983.,  131430.,  143877.,  156324.,
      168771.,  181218.,  193665.,  8446.,    23637.,   38828.,   54019.,
      69210.,   84401.,   99592.,   114783.,  129974.,  145165.,  160356.,
      175547.,  190738.,  205929.,  221120.,  236311.,  9932.,    27867.,
      45802.,   63737.,   81672.,   99607.,   117542.,  135477.,  153412.,
      171347.,  189282.,  207217.,  225152.,  243087.,  261022.,  278957.,
      11418.,   32097.,   52776.,   73455.,   94134.,   114813.,  135492.,
      156171.,  176850.,  197529.,  218208.,  238887.,  259566.,  280245.,
      300924.,  321603.,  12904.,   36327.,   59750.,   83173.,   106596.,
      130019.,  153442.,  176865.,  200288.,  223711.,  247134.,  270557.,
      293980.,  317403.,  340826.,  364249.,  14390.,   40557.,   66724.,
      92891.,   119058.,  145225.,  171392.,  197559.,  223726.,  249893.,
      276060.,  302227.,  328394.,  354561.,  380728.,  406895.,  15876.,
      44787.,   73698.,   102609.,  131520.,  160431.,  189342.,  218253.,
      247164.,  276075.,  304986.,  333897.,  362808.,  391719.,  420630.,
      449541.,  17362.,   49017.,   80672.,   112327.,  143982.,  175637.,
      207292.,  238947.,  270602.,  302257.,  333912.,  365567.,  397222.,
      428877.,  460532.,  492187.,  18848.,   53247.,   87646.,   122045.,
      156444.,  190843.,  225242.,  259641.,  294040.,  328439.,  362838.,
      397237.,  431636.,  466035.,  500434.,  534833.,  20334.,   57477.,
      94620.,   131763.,  168906.,  206049.,  243192.,  280335.,  317478.,
      354621.,  391764.,  428907.,  466050.,  503193.,  540336.,  577479.,
      659996.,  699883.,  739770.,  779657.,  819544.,  859431.,  899318.,
      939205.,  979092.,  1018979., 1058866., 1098753., 1138640., 1178527.,
      1218414., 1258301., 705386.,  748017.,  790648.,  833279.,  875910.,
      918541.,  961172.,  1003803., 1046434., 1089065., 1131696., 1174327.,
      1216958., 1259589., 1302220., 1344851., 750776.,  796151.,  841526.,
      886901.,  932276.,  977651.,  1023026., 1068401., 1113776., 1159151.,
      1204526., 1249901., 1295276., 1340651., 1386026., 1431401., 796166.,
      844285.,  892404.,  940523.,  988642.,  1036761., 1084880., 1132999.,
      1181118., 1229237., 1277356., 1325475., 1373594., 1421713., 1469832.,
      1517951., 841556.,  892419.,  943282.,  994145.,  1045008., 1095871.,
      1146734., 1197597., 1248460., 1299323., 1350186., 1401049., 1451912.,
      1502775., 1553638., 1604501., 886946.,  940553.,  994160.,  1047767.,
      1101374., 1154981., 1208588., 1262195., 1315802., 1369409., 1423016.,
      1476623., 1530230., 1583837., 1637444., 1691051., 932336.,  988687.,
      1045038., 1101389., 1157740., 1214091., 1270442., 1326793., 1383144.,
      1439495., 1495846., 1552197., 1608548., 1664899., 1721250., 1777601.,
      977726.,  1036821., 1095916., 1155011., 1214106., 1273201., 1332296.,
      1391391., 1450486., 1509581., 1568676., 1627771., 1686866., 1745961.,
      1805056., 1864151., 1023116., 1084955., 1146794., 1208633., 1270472.,
      1332311., 1394150., 1455989., 1517828., 1579667., 1641506., 1703345.,
      1765184., 1827023., 1888862., 1950701., 1068506., 1133089., 1197672.,
      1262255., 1326838., 1391421., 1456004., 1520587., 1585170., 1649753.,
      1714336., 1778919., 1843502., 1908085., 1972668., 2037251., 1113896.,
      1181223., 1248550., 1315877., 1383204., 1450531., 1517858., 1585185.,
      1652512., 1719839., 1787166., 1854493., 1921820., 1989147., 2056474.,
      2123801., 1159286., 1229357., 1299428., 1369499., 1439570., 1509641.,
      1579712., 1649783., 1719854., 1789925., 1859996., 1930067., 2000138.,
      2070209., 2140280., 2210351., 1204676., 1277491., 1350306., 1423121.,
      1495936., 1568751., 1641566., 1714381., 1787196., 1860011., 1932826.,
      2005641., 2078456., 2151271., 2224086., 2296901., 1250066., 1325625.,
      1401184., 1476743., 1552302., 1627861., 1703420., 1778979., 1854538.,
      1930097., 2005656., 2081215., 2156774., 2232333., 2307892., 2383451.,
      2548288., 2626591., 2704894., 2783197., 2861500., 2939803., 3018106.,
      3096409., 3174712., 3253015., 3331318., 3409621., 3487924., 3566227.,
      3644530., 3722833., 2637582., 2718629., 2799676., 2880723., 2961770.,
      3042817., 3123864., 3204911., 3285958., 3367005., 3448052., 3529099.,
      3610146., 3691193., 3772240., 3853287., 2726876., 2810667., 2894458.,
      2978249., 3062040., 3145831., 3229622., 3313413., 3397204., 3480995.,
      3564786., 3648577., 3732368., 3816159., 3899950., 3983741., 2816170.,
      2902705., 2989240., 3075775., 3162310., 3248845., 3335380., 3421915.,
      3508450., 3594985., 3681520., 3768055., 3854590., 3941125., 4027660.,
      4114195., 2905464., 2994743., 3084022., 3173301., 3262580., 3351859.,
      3441138., 3530417., 3619696., 3708975., 3798254., 3887533., 3976812.,
      4066091., 4155370., 4244649., 2994758., 3086781., 3178804., 3270827.,
      3362850., 3454873., 3546896., 3638919., 3730942., 3822965., 3914988.,
      4007011., 4099034., 4191057., 4283080., 4375103., 3084052., 3178819.,
      3273586., 3368353., 3463120., 3557887., 3652654., 3747421., 3842188.,
      3936955., 4031722., 4126489., 4221256., 4316023., 4410790., 4505557.,
      3173346., 3270857., 3368368., 3465879., 3563390., 3660901., 3758412.,
      3855923., 3953434., 4050945., 4148456., 4245967., 4343478., 4440989.,
      4538500., 4636011., 3262640., 3362895., 3463150., 3563405., 3663660.,
      3763915., 3864170., 3964425., 4064680., 4164935., 4265190., 4365445.,
      4465700., 4565955., 4666210., 4766465., 3351934., 3454933., 3557932.,
      3660931., 3763930., 3866929., 3969928., 4072927., 4175926., 4278925.,
      4381924., 4484923., 4587922., 4690921., 4793920., 4896919., 3441228.,
      3546971., 3652714., 3758457., 3864200., 3969943., 4075686., 4181429.,
      4287172., 4392915., 4498658., 4604401., 4710144., 4815887., 4921630.,
      5027373., 3530522., 3639009., 3747496., 3855983., 3964470., 4072957.,
      4181444., 4289931., 4398418., 4506905., 4615392., 4723879., 4832366.,
      4940853., 5049340., 5157827., 3619816., 3731047., 3842278., 3953509.,
      4064740., 4175971., 4287202., 4398433., 4509664., 4620895., 4732126.,
      4843357., 4954588., 5065819., 5177050., 5288281., 3709110., 3823085.,
      3937060., 4051035., 4165010., 4278985., 4392960., 4506935., 4620910.,
      4734885., 4848860., 4962835., 5076810., 5190785., 5304760., 5418735.};
  const int batches = 3;
  const int m = 14;
  const int k = 14;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK15xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      3055.,    8231.,    13407.,   18583.,   23759.,   28935.,   34111.,
      39287.,   44463.,   49639.,   54815.,   59991.,   65167.,   70343.,
      4869.,    13420.,   21971.,   30522.,   39073.,   47624.,   56175.,
      64726.,   73277.,   81828.,   90379.,   98930.,   107481.,  116032.,
      6683.,    18609.,   30535.,   42461.,   54387.,   66313.,   78239.,
      90165.,   102091.,  114017.,  125943.,  137869.,  149795.,  161721.,
      8497.,    23798.,   39099.,   54400.,   69701.,   85002.,   100303.,
      115604.,  130905.,  146206.,  161507.,  176808.,  192109.,  207410.,
      10311.,   28987.,   47663.,   66339.,   85015.,   103691.,  122367.,
      141043.,  159719.,  178395.,  197071.,  215747.,  234423.,  253099.,
      12125.,   34176.,   56227.,   78278.,   100329.,  122380.,  144431.,
      166482.,  188533.,  210584.,  232635.,  254686.,  276737.,  298788.,
      13939.,   39365.,   64791.,   90217.,   115643.,  141069.,  166495.,
      191921.,  217347.,  242773.,  268199.,  293625.,  319051.,  344477.,
      15753.,   44554.,   73355.,   102156.,  130957.,  159758.,  188559.,
      217360.,  246161.,  274962.,  303763.,  332564.,  361365.,  390166.,
      17567.,   49743.,   81919.,   114095.,  146271.,  178447.,  210623.,
      242799.,  274975.,  307151.,  339327.,  371503.,  403679.,  435855.,
      19381.,   54932.,   90483.,   126034.,  161585.,  197136.,  232687.,
      268238.,  303789.,  339340.,  374891.,  410442.,  445993.,  481544.,
      21195.,   60121.,   99047.,   137973.,  176899.,  215825.,  254751.,
      293677.,  332603.,  371529.,  410455.,  449381.,  488307.,  527233.,
      23009.,   65310.,   107611.,  149912.,  192213.,  234514.,  276815.,
      319116.,  361417.,  403718.,  446019.,  488320.,  530621.,  572922.,
      24823.,   70499.,   116175.,  161851.,  207527.,  253203.,  298879.,
      344555.,  390231.,  435907.,  481583.,  527259.,  572935.,  618611.,
      713337.,  762388.,  811439.,  860490.,  909541.,  958592.,  1007643.,
      1056694., 1105745., 1154796., 1203847., 1252898., 1301949., 1351000.,
      762401.,  814827.,  867253.,  919679.,  972105.,  1024531., 1076957.,
      1129383., 1181809., 1234235., 1286661., 1339087., 1391513., 1443939.,
      811465.,  867266.,  923067.,  978868.,  1034669., 1090470., 1146271.,
      1202072., 1257873., 1313674., 1369475., 1425276., 1481077., 1536878.,
      860529.,  919705.,  978881.,  1038057., 1097233., 1156409., 1215585.,
      1274761., 1333937., 1393113., 1452289., 1511465., 1570641., 1629817.,
      909593.,  972144.,  1034695., 1097246., 1159797., 1222348., 1284899.,
      1347450., 1410001., 1472552., 1535103., 1597654., 1660205., 1722756.,
      958657.,  1024583., 1090509., 1156435., 1222361., 1288287., 1354213.,
      1420139., 1486065., 1551991., 1617917., 1683843., 1749769., 1815695.,
      1007721., 1077022., 1146323., 1215624., 1284925., 1354226., 1423527.,
      1492828., 1562129., 1631430., 1700731., 1770032., 1839333., 1908634.,
      1056785., 1129461., 1202137., 1274813., 1347489., 1420165., 1492841.,
      1565517., 1638193., 1710869., 1783545., 1856221., 1928897., 2001573.,
      1105849., 1181900., 1257951., 1334002., 1410053., 1486104., 1562155.,
      1638206., 1714257., 1790308., 1866359., 1942410., 2018461., 2094512.,
      1154913., 1234339., 1313765., 1393191., 1472617., 1552043., 1631469.,
      1710895., 1790321., 1869747., 1949173., 2028599., 2108025., 2187451.,
      1203977., 1286778., 1369579., 1452380., 1535181., 1617982., 1700783.,
      1783584., 1866385., 1949186., 2031987., 2114788., 2197589., 2280390.,
      1253041., 1339217., 1425393., 1511569., 1597745., 1683921., 1770097.,
      1856273., 1942449., 2028625., 2114801., 2200977., 2287153., 2373329.,
      1302105., 1391656., 1481207., 1570758., 1660309., 1749860., 1839411.,
      1928962., 2018513., 2108064., 2197615., 2287166., 2376717., 2466268.,
      1351169., 1444095., 1537021., 1629947., 1722873., 1815799., 1908725.,
      2001651., 2094577., 2187503., 2280429., 2373355., 2466281., 2559207.,
      2748433., 2844734., 2941035., 3037336., 3133637., 3229938., 3326239.,
      3422540., 3518841., 3615142., 3711443., 3807744., 3904045., 4000346.,
      2844747., 2944423., 3044099., 3143775., 3243451., 3343127., 3442803.,
      3542479., 3642155., 3741831., 3841507., 3941183., 4040859., 4140535.,
      2941061., 3044112., 3147163., 3250214., 3353265., 3456316., 3559367.,
      3662418., 3765469., 3868520., 3971571., 4074622., 4177673., 4280724.,
      3037375., 3143801., 3250227., 3356653., 3463079., 3569505., 3675931.,
      3782357., 3888783., 3995209., 4101635., 4208061., 4314487., 4420913.,
      3133689., 3243490., 3353291., 3463092., 3572893., 3682694., 3792495.,
      3902296., 4012097., 4121898., 4231699., 4341500., 4451301., 4561102.,
      3230003., 3343179., 3456355., 3569531., 3682707., 3795883., 3909059.,
      4022235., 4135411., 4248587., 4361763., 4474939., 4588115., 4701291.,
      3326317., 3442868., 3559419., 3675970., 3792521., 3909072., 4025623.,
      4142174., 4258725., 4375276., 4491827., 4608378., 4724929., 4841480.,
      3422631., 3542557., 3662483., 3782409., 3902335., 4022261., 4142187.,
      4262113., 4382039., 4501965., 4621891., 4741817., 4861743., 4981669.,
      3518945., 3642246., 3765547., 3888848., 4012149., 4135450., 4258751.,
      4382052., 4505353., 4628654., 4751955., 4875256., 4998557., 5121858.,
      3615259., 3741935., 3868611., 3995287., 4121963., 4248639., 4375315.,
      4501991., 4628667., 4755343., 4882019., 5008695., 5135371., 5262047.,
      3711573., 3841624., 3971675., 4101726., 4231777., 4361828., 4491879.,
      4621930., 4751981., 4882032., 5012083., 5142134., 5272185., 5402236.,
      3807887., 3941313., 4074739., 4208165., 4341591., 4475017., 4608443.,
      4741869., 4875295., 5008721., 5142147., 5275573., 5408999., 5542425.,
      3904201., 4041002., 4177803., 4314604., 4451405., 4588206., 4725007.,
      4861808., 4998609., 5135410., 5272211., 5409012., 5545813., 5682614.,
      4000515., 4140691., 4280867., 4421043., 4561219., 4701395., 4841571.,
      4981747., 5121923., 5262099., 5402275., 5542451., 5682627., 5822803.};
  const int batches = 3;
  const int m = 14;
  const int k = 15;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK15xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   3056.,    8232.,    13408.,   18584.,   23760.,   28936.,
      34112.,   39288.,   44464.,   49640.,   54816.,   59992.,   65168.,
      70344.,   75520.,   4871.,    13422.,   21973.,   30524.,   39075.,
      47626.,   56177.,   64728.,   73279.,   81830.,   90381.,   98932.,
      107483.,  116034.,  124585.,  6686.,    18612.,   30538.,   42464.,
      54390.,   66316.,   78242.,   90168.,   102094.,  114020.,  125946.,
      137872.,  149798.,  161724.,  173650.,  8501.,    23802.,   39103.,
      54404.,   69705.,   85006.,   100307.,  115608.,  130909.,  146210.,
      161511.,  176812.,  192113.,  207414.,  222715.,  10316.,   28992.,
      47668.,   66344.,   85020.,   103696.,  122372.,  141048.,  159724.,
      178400.,  197076.,  215752.,  234428.,  253104.,  271780.,  12131.,
      34182.,   56233.,   78284.,   100335.,  122386.,  144437.,  166488.,
      188539.,  210590.,  232641.,  254692.,  276743.,  298794.,  320845.,
      13946.,   39372.,   64798.,   90224.,   115650.,  141076.,  166502.,
      191928.,  217354.,  242780.,  268206.,  293632.,  319058.,  344484.,
      369910.,  15761.,   44562.,   73363.,   102164.,  130965.,  159766.,
      188567.,  217368.,  246169.,  274970.,  303771.,  332572.,  361373.,
      390174.,  418975.,  17576.,   49752.,   81928.,   114104.,  146280.,
      178456.,  210632.,  242808.,  274984.,  307160.,  339336.,  371512.,
      403688.,  435864.,  468040.,  19391.,   54942.,   90493.,   126044.,
      161595.,  197146.,  232697.,  268248.,  303799.,  339350.,  374901.,
      410452.,  446003.,  481554.,  517105.,  21206.,   60132.,   99058.,
      137984.,  176910.,  215836.,  254762.,  293688.,  332614.,  371540.,
      410466.,  449392.,  488318.,  527244.,  566170.,  23021.,   65322.,
      107623.,  149924.,  192225.,  234526.,  276827.,  319128.,  361429.,
      403730.,  446031.,  488332.,  530633.,  572934.,  615235.,  24836.,
      70512.,   116188.,  161864.,  207540.,  253216.,  298892.,  344568.,
      390244.,  435920.,  481596.,  527272.,  572948.,  618624.,  664300.,
      762401.,  811452.,  860503.,  909554.,  958605.,  1007656., 1056707.,
      1105758., 1154809., 1203860., 1252911., 1301962., 1351013., 1400064.,
      1449115., 814841.,  867267.,  919693.,  972119.,  1024545., 1076971.,
      1129397., 1181823., 1234249., 1286675., 1339101., 1391527., 1443953.,
      1496379., 1548805., 867281.,  923082.,  978883.,  1034684., 1090485.,
      1146286., 1202087., 1257888., 1313689., 1369490., 1425291., 1481092.,
      1536893., 1592694., 1648495., 919721.,  978897.,  1038073., 1097249.,
      1156425., 1215601., 1274777., 1333953., 1393129., 1452305., 1511481.,
      1570657., 1629833., 1689009., 1748185., 972161.,  1034712., 1097263.,
      1159814., 1222365., 1284916., 1347467., 1410018., 1472569., 1535120.,
      1597671., 1660222., 1722773., 1785324., 1847875., 1024601., 1090527.,
      1156453., 1222379., 1288305., 1354231., 1420157., 1486083., 1552009.,
      1617935., 1683861., 1749787., 1815713., 1881639., 1947565., 1077041.,
      1146342., 1215643., 1284944., 1354245., 1423546., 1492847., 1562148.,
      1631449., 1700750., 1770051., 1839352., 1908653., 1977954., 2047255.,
      1129481., 1202157., 1274833., 1347509., 1420185., 1492861., 1565537.,
      1638213., 1710889., 1783565., 1856241., 1928917., 2001593., 2074269.,
      2146945., 1181921., 1257972., 1334023., 1410074., 1486125., 1562176.,
      1638227., 1714278., 1790329., 1866380., 1942431., 2018482., 2094533.,
      2170584., 2246635., 1234361., 1313787., 1393213., 1472639., 1552065.,
      1631491., 1710917., 1790343., 1869769., 1949195., 2028621., 2108047.,
      2187473., 2266899., 2346325., 1286801., 1369602., 1452403., 1535204.,
      1618005., 1700806., 1783607., 1866408., 1949209., 2032010., 2114811.,
      2197612., 2280413., 2363214., 2446015., 1339241., 1425417., 1511593.,
      1597769., 1683945., 1770121., 1856297., 1942473., 2028649., 2114825.,
      2201001., 2287177., 2373353., 2459529., 2545705., 1391681., 1481232.,
      1570783., 1660334., 1749885., 1839436., 1928987., 2018538., 2108089.,
      2197640., 2287191., 2376742., 2466293., 2555844., 2645395., 1444121.,
      1537047., 1629973., 1722899., 1815825., 1908751., 2001677., 2094603.,
      2187529., 2280455., 2373381., 2466307., 2559233., 2652159., 2745085.,
      2941061., 3037362., 3133663., 3229964., 3326265., 3422566., 3518867.,
      3615168., 3711469., 3807770., 3904071., 4000372., 4096673., 4192974.,
      4289275., 3044126., 3143802., 3243478., 3343154., 3442830., 3542506.,
      3642182., 3741858., 3841534., 3941210., 4040886., 4140562., 4240238.,
      4339914., 4439590., 3147191., 3250242., 3353293., 3456344., 3559395.,
      3662446., 3765497., 3868548., 3971599., 4074650., 4177701., 4280752.,
      4383803., 4486854., 4589905., 3250256., 3356682., 3463108., 3569534.,
      3675960., 3782386., 3888812., 3995238., 4101664., 4208090., 4314516.,
      4420942., 4527368., 4633794., 4740220., 3353321., 3463122., 3572923.,
      3682724., 3792525., 3902326., 4012127., 4121928., 4231729., 4341530.,
      4451331., 4561132., 4670933., 4780734., 4890535., 3456386., 3569562.,
      3682738., 3795914., 3909090., 4022266., 4135442., 4248618., 4361794.,
      4474970., 4588146., 4701322., 4814498., 4927674., 5040850., 3559451.,
      3676002., 3792553., 3909104., 4025655., 4142206., 4258757., 4375308.,
      4491859., 4608410., 4724961., 4841512., 4958063., 5074614., 5191165.,
      3662516., 3782442., 3902368., 4022294., 4142220., 4262146., 4382072.,
      4501998., 4621924., 4741850., 4861776., 4981702., 5101628., 5221554.,
      5341480., 3765581., 3888882., 4012183., 4135484., 4258785., 4382086.,
      4505387., 4628688., 4751989., 4875290., 4998591., 5121892., 5245193.,
      5368494., 5491795., 3868646., 3995322., 4121998., 4248674., 4375350.,
      4502026., 4628702., 4755378., 4882054., 5008730., 5135406., 5262082.,
      5388758., 5515434., 5642110., 3971711., 4101762., 4231813., 4361864.,
      4491915., 4621966., 4752017., 4882068., 5012119., 5142170., 5272221.,
      5402272., 5532323., 5662374., 5792425., 4074776., 4208202., 4341628.,
      4475054., 4608480., 4741906., 4875332., 5008758., 5142184., 5275610.,
      5409036., 5542462., 5675888., 5809314., 5942740., 4177841., 4314642.,
      4451443., 4588244., 4725045., 4861846., 4998647., 5135448., 5272249.,
      5409050., 5545851., 5682652., 5819453., 5956254., 6093055., 4280906.,
      4421082., 4561258., 4701434., 4841610., 4981786., 5121962., 5262138.,
      5402314., 5542490., 5682666., 5822842., 5963018., 6103194., 6243370.};
  const int batches = 3;
  const int m = 14;
  const int k = 15;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK15xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   28256.,   3057.,    8233.,    13409.,   18585.,   23761.,
      28937.,   34113.,   39289.,   44465.,   49641.,   54817.,   59993.,
      65169.,   70345.,   75521.,   80697.,   4873.,    13424.,   21975.,
      30526.,   39077.,   47628.,   56179.,   64730.,   73281.,   81832.,
      90383.,   98934.,   107485.,  116036.,  124587.,  133138.,  6689.,
      18615.,   30541.,   42467.,   54393.,   66319.,   78245.,   90171.,
      102097.,  114023.,  125949.,  137875.,  149801.,  161727.,  173653.,
      185579.,  8505.,    23806.,   39107.,   54408.,   69709.,   85010.,
      100311.,  115612.,  130913.,  146214.,  161515.,  176816.,  192117.,
      207418.,  222719.,  238020.,  10321.,   28997.,   47673.,   66349.,
      85025.,   103701.,  122377.,  141053.,  159729.,  178405.,  197081.,
      215757.,  234433.,  253109.,  271785.,  290461.,  12137.,   34188.,
      56239.,   78290.,   100341.,  122392.,  144443.,  166494.,  188545.,
      210596.,  232647.,  254698.,  276749.,  298800.,  320851.,  342902.,
      13953.,   39379.,   64805.,   90231.,   115657.,  141083.,  166509.,
      191935.,  217361.,  242787.,  268213.,  293639.,  319065.,  344491.,
      369917.,  395343.,  15769.,   44570.,   73371.,   102172.,  130973.,
      159774.,  188575.,  217376.,  246177.,  274978.,  303779.,  332580.,
      361381.,  390182.,  418983.,  447784.,  17585.,   49761.,   81937.,
      114113.,  146289.,  178465.,  210641.,  242817.,  274993.,  307169.,
      339345.,  371521.,  403697.,  435873.,  468049.,  500225.,  19401.,
      54952.,   90503.,   126054.,  161605.,  197156.,  232707.,  268258.,
      303809.,  339360.,  374911.,  410462.,  446013.,  481564.,  517115.,
      552666.,  21217.,   60143.,   99069.,   137995.,  176921.,  215847.,
      254773.,  293699.,  332625.,  371551.,  410477.,  449403.,  488329.,
      527255.,  566181.,  605107.,  23033.,   65334.,   107635.,  149936.,
      192237.,  234538.,  276839.,  319140.,  361441.,  403742.,  446043.,
      488344.,  530645.,  572946.,  615247.,  657548.,  24849.,   70525.,
      116201.,  161877.,  207553.,  253229.,  298905.,  344581.,  390257.,
      435933.,  481609.,  527285.,  572961.,  618637.,  664313.,  709989.,
      811465.,  860516.,  909567.,  958618.,  1007669., 1056720., 1105771.,
      1154822., 1203873., 1252924., 1301975., 1351026., 1400077., 1449128.,
      1498179., 1547230., 867281.,  919707.,  972133.,  1024559., 1076985.,
      1129411., 1181837., 1234263., 1286689., 1339115., 1391541., 1443967.,
      1496393., 1548819., 1601245., 1653671., 923097.,  978898.,  1034699.,
      1090500., 1146301., 1202102., 1257903., 1313704., 1369505., 1425306.,
      1481107., 1536908., 1592709., 1648510., 1704311., 1760112., 978913.,
      1038089., 1097265., 1156441., 1215617., 1274793., 1333969., 1393145.,
      1452321., 1511497., 1570673., 1629849., 1689025., 1748201., 1807377.,
      1866553., 1034729., 1097280., 1159831., 1222382., 1284933., 1347484.,
      1410035., 1472586., 1535137., 1597688., 1660239., 1722790., 1785341.,
      1847892., 1910443., 1972994., 1090545., 1156471., 1222397., 1288323.,
      1354249., 1420175., 1486101., 1552027., 1617953., 1683879., 1749805.,
      1815731., 1881657., 1947583., 2013509., 2079435., 1146361., 1215662.,
      1284963., 1354264., 1423565., 1492866., 1562167., 1631468., 1700769.,
      1770070., 1839371., 1908672., 1977973., 2047274., 2116575., 2185876.,
      1202177., 1274853., 1347529., 1420205., 1492881., 1565557., 1638233.,
      1710909., 1783585., 1856261., 1928937., 2001613., 2074289., 2146965.,
      2219641., 2292317., 1257993., 1334044., 1410095., 1486146., 1562197.,
      1638248., 1714299., 1790350., 1866401., 1942452., 2018503., 2094554.,
      2170605., 2246656., 2322707., 2398758., 1313809., 1393235., 1472661.,
      1552087., 1631513., 1710939., 1790365., 1869791., 1949217., 2028643.,
      2108069., 2187495., 2266921., 2346347., 2425773., 2505199., 1369625.,
      1452426., 1535227., 1618028., 1700829., 1783630., 1866431., 1949232.,
      2032033., 2114834., 2197635., 2280436., 2363237., 2446038., 2528839.,
      2611640., 1425441., 1511617., 1597793., 1683969., 1770145., 1856321.,
      1942497., 2028673., 2114849., 2201025., 2287201., 2373377., 2459553.,
      2545729., 2631905., 2718081., 1481257., 1570808., 1660359., 1749910.,
      1839461., 1929012., 2018563., 2108114., 2197665., 2287216., 2376767.,
      2466318., 2555869., 2645420., 2734971., 2824522., 1537073., 1629999.,
      1722925., 1815851., 1908777., 2001703., 2094629., 2187555., 2280481.,
      2373407., 2466333., 2559259., 2652185., 2745111., 2838037., 2930963.,
      3133689., 3229990., 3326291., 3422592., 3518893., 3615194., 3711495.,
      3807796., 3904097., 4000398., 4096699., 4193000., 4289301., 4385602.,
      4481903., 4578204., 3243505., 3343181., 3442857., 3542533., 3642209.,
      3741885., 3841561., 3941237., 4040913., 4140589., 4240265., 4339941.,
      4439617., 4539293., 4638969., 4738645., 3353321., 3456372., 3559423.,
      3662474., 3765525., 3868576., 3971627., 4074678., 4177729., 4280780.,
      4383831., 4486882., 4589933., 4692984., 4796035., 4899086., 3463137.,
      3569563., 3675989., 3782415., 3888841., 3995267., 4101693., 4208119.,
      4314545., 4420971., 4527397., 4633823., 4740249., 4846675., 4953101.,
      5059527., 3572953., 3682754., 3792555., 3902356., 4012157., 4121958.,
      4231759., 4341560., 4451361., 4561162., 4670963., 4780764., 4890565.,
      5000366., 5110167., 5219968., 3682769., 3795945., 3909121., 4022297.,
      4135473., 4248649., 4361825., 4475001., 4588177., 4701353., 4814529.,
      4927705., 5040881., 5154057., 5267233., 5380409., 3792585., 3909136.,
      4025687., 4142238., 4258789., 4375340., 4491891., 4608442., 4724993.,
      4841544., 4958095., 5074646., 5191197., 5307748., 5424299., 5540850.,
      3902401., 4022327., 4142253., 4262179., 4382105., 4502031., 4621957.,
      4741883., 4861809., 4981735., 5101661., 5221587., 5341513., 5461439.,
      5581365., 5701291., 4012217., 4135518., 4258819., 4382120., 4505421.,
      4628722., 4752023., 4875324., 4998625., 5121926., 5245227., 5368528.,
      5491829., 5615130., 5738431., 5861732., 4122033., 4248709., 4375385.,
      4502061., 4628737., 4755413., 4882089., 5008765., 5135441., 5262117.,
      5388793., 5515469., 5642145., 5768821., 5895497., 6022173., 4231849.,
      4361900., 4491951., 4622002., 4752053., 4882104., 5012155., 5142206.,
      5272257., 5402308., 5532359., 5662410., 5792461., 5922512., 6052563.,
      6182614., 4341665., 4475091., 4608517., 4741943., 4875369., 5008795.,
      5142221., 5275647., 5409073., 5542499., 5675925., 5809351., 5942777.,
      6076203., 6209629., 6343055., 4451481., 4588282., 4725083., 4861884.,
      4998685., 5135486., 5272287., 5409088., 5545889., 5682690., 5819491.,
      5956292., 6093093., 6229894., 6366695., 6503496., 4561297., 4701473.,
      4841649., 4981825., 5122001., 5262177., 5402353., 5542529., 5682705.,
      5822881., 5963057., 6103233., 6243409., 6383585., 6523761., 6663937.};
  const int batches = 3;
  const int m = 14;
  const int k = 15;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK16xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      3687.,    9960.,    16233.,   22506.,   28779.,   35052.,   41325.,
      47598.,   53871.,   60144.,   66417.,   72690.,   78963.,   85236.,
      5877.,    16246.,   26615.,   36984.,   47353.,   57722.,   68091.,
      78460.,   88829.,   99198.,   109567.,  119936.,  130305.,  140674.,
      8067.,    22532.,   36997.,   51462.,   65927.,   80392.,   94857.,
      109322.,  123787.,  138252.,  152717.,  167182.,  181647.,  196112.,
      10257.,   28818.,   47379.,   65940.,   84501.,   103062.,  121623.,
      140184.,  158745.,  177306.,  195867.,  214428.,  232989.,  251550.,
      12447.,   35104.,   57761.,   80418.,   103075.,  125732.,  148389.,
      171046.,  193703.,  216360.,  239017.,  261674.,  284331.,  306988.,
      14637.,   41390.,   68143.,   94896.,   121649.,  148402.,  175155.,
      201908.,  228661.,  255414.,  282167.,  308920.,  335673.,  362426.,
      16827.,   47676.,   78525.,   109374.,  140223.,  171072.,  201921.,
      232770.,  263619.,  294468.,  325317.,  356166.,  387015.,  417864.,
      19017.,   53962.,   88907.,   123852.,  158797.,  193742.,  228687.,
      263632.,  298577.,  333522.,  368467.,  403412.,  438357.,  473302.,
      21207.,   60248.,   99289.,   138330.,  177371.,  216412.,  255453.,
      294494.,  333535.,  372576.,  411617.,  450658.,  489699.,  528740.,
      23397.,   66534.,   109671.,  152808.,  195945.,  239082.,  282219.,
      325356.,  368493.,  411630.,  454767.,  497904.,  541041.,  584178.,
      25587.,   72820.,   120053.,  167286.,  214519.,  261752.,  308985.,
      356218.,  403451.,  450684.,  497917.,  545150.,  592383.,  639616.,
      27777.,   79106.,   130435.,  181764.,  233093.,  284422.,  335751.,
      387080.,  438409.,  489738.,  541067.,  592396.,  643725.,  695054.,
      29967.,   85392.,   140817.,  196242.,  251667.,  307092.,  362517.,
      417942.,  473367.,  528792.,  584217.,  639642.,  695067.,  750492.,
      865437.,  924958.,  984479.,  1044000., 1103521., 1163042., 1222563.,
      1282084., 1341605., 1401126., 1460647., 1520168., 1579689., 1639210.,
      924971.,  988588.,  1052205., 1115822., 1179439., 1243056., 1306673.,
      1370290., 1433907., 1497524., 1561141., 1624758., 1688375., 1751992.,
      984505.,  1052218., 1119931., 1187644., 1255357., 1323070., 1390783.,
      1458496., 1526209., 1593922., 1661635., 1729348., 1797061., 1864774.,
      1044039., 1115848., 1187657., 1259466., 1331275., 1403084., 1474893.,
      1546702., 1618511., 1690320., 1762129., 1833938., 1905747., 1977556.,
      1103573., 1179478., 1255383., 1331288., 1407193., 1483098., 1559003.,
      1634908., 1710813., 1786718., 1862623., 1938528., 2014433., 2090338.,
      1163107., 1243108., 1323109., 1403110., 1483111., 1563112., 1643113.,
      1723114., 1803115., 1883116., 1963117., 2043118., 2123119., 2203120.,
      1222641., 1306738., 1390835., 1474932., 1559029., 1643126., 1727223.,
      1811320., 1895417., 1979514., 2063611., 2147708., 2231805., 2315902.,
      1282175., 1370368., 1458561., 1546754., 1634947., 1723140., 1811333.,
      1899526., 1987719., 2075912., 2164105., 2252298., 2340491., 2428684.,
      1341709., 1433998., 1526287., 1618576., 1710865., 1803154., 1895443.,
      1987732., 2080021., 2172310., 2264599., 2356888., 2449177., 2541466.,
      1401243., 1497628., 1594013., 1690398., 1786783., 1883168., 1979553.,
      2075938., 2172323., 2268708., 2365093., 2461478., 2557863., 2654248.,
      1460777., 1561258., 1661739., 1762220., 1862701., 1963182., 2063663.,
      2164144., 2264625., 2365106., 2465587., 2566068., 2666549., 2767030.,
      1520311., 1624888., 1729465., 1834042., 1938619., 2043196., 2147773.,
      2252350., 2356927., 2461504., 2566081., 2670658., 2775235., 2879812.,
      1579845., 1688518., 1797191., 1905864., 2014537., 2123210., 2231883.,
      2340556., 2449229., 2557902., 2666575., 2775248., 2883921., 2992594.,
      1639379., 1752148., 1864917., 1977686., 2090455., 2203224., 2315993.,
      2428762., 2541531., 2654300., 2767069., 2879838., 2992607., 3105376.,
      3335009., 3451874., 3568739., 3685604., 3802469., 3919334., 4036199.,
      4153064., 4269929., 4386794., 4503659., 4620524., 4737389., 4854254.,
      3451887., 3572848., 3693809., 3814770., 3935731., 4056692., 4177653.,
      4298614., 4419575., 4540536., 4661497., 4782458., 4903419., 5024380.,
      3568765., 3693822., 3818879., 3943936., 4068993., 4194050., 4319107.,
      4444164., 4569221., 4694278., 4819335., 4944392., 5069449., 5194506.,
      3685643., 3814796., 3943949., 4073102., 4202255., 4331408., 4460561.,
      4589714., 4718867., 4848020., 4977173., 5106326., 5235479., 5364632.,
      3802521., 3935770., 4069019., 4202268., 4335517., 4468766., 4602015.,
      4735264., 4868513., 5001762., 5135011., 5268260., 5401509., 5534758.,
      3919399., 4056744., 4194089., 4331434., 4468779., 4606124., 4743469.,
      4880814., 5018159., 5155504., 5292849., 5430194., 5567539., 5704884.,
      4036277., 4177718., 4319159., 4460600., 4602041., 4743482., 4884923.,
      5026364., 5167805., 5309246., 5450687., 5592128., 5733569., 5875010.,
      4153155., 4298692., 4444229., 4589766., 4735303., 4880840., 5026377.,
      5171914., 5317451., 5462988., 5608525., 5754062., 5899599., 6045136.,
      4270033., 4419666., 4569299., 4718932., 4868565., 5018198., 5167831.,
      5317464., 5467097., 5616730., 5766363., 5915996., 6065629., 6215262.,
      4386911., 4540640., 4694369., 4848098., 5001827., 5155556., 5309285.,
      5463014., 5616743., 5770472., 5924201., 6077930., 6231659., 6385388.,
      4503789., 4661614., 4819439., 4977264., 5135089., 5292914., 5450739.,
      5608564., 5766389., 5924214., 6082039., 6239864., 6397689., 6555514.,
      4620667., 4782588., 4944509., 5106430., 5268351., 5430272., 5592193.,
      5754114., 5916035., 6077956., 6239877., 6401798., 6563719., 6725640.,
      4737545., 4903562., 5069579., 5235596., 5401613., 5567630., 5733647.,
      5899664., 6065681., 6231698., 6397715., 6563732., 6729749., 6895766.,
      4854423., 5024536., 5194649., 5364762., 5534875., 5704988., 5875101.,
      6045214., 6215327., 6385440., 6555553., 6725666., 6895779., 7065892.};
  const int batches = 3;
  const int m = 14;
  const int k = 16;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK16xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   3688.,    9961.,    16234.,   22507.,   28780.,   35053.,
      41326.,   47599.,   53872.,   60145.,   66418.,   72691.,   78964.,
      85237.,   91510.,   5879.,    16248.,   26617.,   36986.,   47355.,
      57724.,   68093.,   78462.,   88831.,   99200.,   109569.,  119938.,
      130307.,  140676.,  151045.,  8070.,    22535.,   37000.,   51465.,
      65930.,   80395.,   94860.,   109325.,  123790.,  138255.,  152720.,
      167185.,  181650.,  196115.,  210580.,  10261.,   28822.,   47383.,
      65944.,   84505.,   103066.,  121627.,  140188.,  158749.,  177310.,
      195871.,  214432.,  232993.,  251554.,  270115.,  12452.,   35109.,
      57766.,   80423.,   103080.,  125737.,  148394.,  171051.,  193708.,
      216365.,  239022.,  261679.,  284336.,  306993.,  329650.,  14643.,
      41396.,   68149.,   94902.,   121655.,  148408.,  175161.,  201914.,
      228667.,  255420.,  282173.,  308926.,  335679.,  362432.,  389185.,
      16834.,   47683.,   78532.,   109381.,  140230.,  171079.,  201928.,
      232777.,  263626.,  294475.,  325324.,  356173.,  387022.,  417871.,
      448720.,  19025.,   53970.,   88915.,   123860.,  158805.,  193750.,
      228695.,  263640.,  298585.,  333530.,  368475.,  403420.,  438365.,
      473310.,  508255.,  21216.,   60257.,   99298.,   138339.,  177380.,
      216421.,  255462.,  294503.,  333544.,  372585.,  411626.,  450667.,
      489708.,  528749.,  567790.,  23407.,   66544.,   109681.,  152818.,
      195955.,  239092.,  282229.,  325366.,  368503.,  411640.,  454777.,
      497914.,  541051.,  584188.,  627325.,  25598.,   72831.,   120064.,
      167297.,  214530.,  261763.,  308996.,  356229.,  403462.,  450695.,
      497928.,  545161.,  592394.,  639627.,  686860.,  27789.,   79118.,
      130447.,  181776.,  233105.,  284434.,  335763.,  387092.,  438421.,
      489750.,  541079.,  592408.,  643737.,  695066.,  746395.,  29980.,
      85405.,   140830.,  196255.,  251680.,  307105.,  362530.,  417955.,
      473380.,  528805.,  584230.,  639655.,  695080.,  750505.,  805930.,
      924971.,  984492.,  1044013., 1103534., 1163055., 1222576., 1282097.,
      1341618., 1401139., 1460660., 1520181., 1579702., 1639223., 1698744.,
      1758265., 988602.,  1052219., 1115836., 1179453., 1243070., 1306687.,
      1370304., 1433921., 1497538., 1561155., 1624772., 1688389., 1752006.,
      1815623., 1879240., 1052233., 1119946., 1187659., 1255372., 1323085.,
      1390798., 1458511., 1526224., 1593937., 1661650., 1729363., 1797076.,
      1864789., 1932502., 2000215., 1115864., 1187673., 1259482., 1331291.,
      1403100., 1474909., 1546718., 1618527., 1690336., 1762145., 1833954.,
      1905763., 1977572., 2049381., 2121190., 1179495., 1255400., 1331305.,
      1407210., 1483115., 1559020., 1634925., 1710830., 1786735., 1862640.,
      1938545., 2014450., 2090355., 2166260., 2242165., 1243126., 1323127.,
      1403128., 1483129., 1563130., 1643131., 1723132., 1803133., 1883134.,
      1963135., 2043136., 2123137., 2203138., 2283139., 2363140., 1306757.,
      1390854., 1474951., 1559048., 1643145., 1727242., 1811339., 1895436.,
      1979533., 2063630., 2147727., 2231824., 2315921., 2400018., 2484115.,
      1370388., 1458581., 1546774., 1634967., 1723160., 1811353., 1899546.,
      1987739., 2075932., 2164125., 2252318., 2340511., 2428704., 2516897.,
      2605090., 1434019., 1526308., 1618597., 1710886., 1803175., 1895464.,
      1987753., 2080042., 2172331., 2264620., 2356909., 2449198., 2541487.,
      2633776., 2726065., 1497650., 1594035., 1690420., 1786805., 1883190.,
      1979575., 2075960., 2172345., 2268730., 2365115., 2461500., 2557885.,
      2654270., 2750655., 2847040., 1561281., 1661762., 1762243., 1862724.,
      1963205., 2063686., 2164167., 2264648., 2365129., 2465610., 2566091.,
      2666572., 2767053., 2867534., 2968015., 1624912., 1729489., 1834066.,
      1938643., 2043220., 2147797., 2252374., 2356951., 2461528., 2566105.,
      2670682., 2775259., 2879836., 2984413., 3088990., 1688543., 1797216.,
      1905889., 2014562., 2123235., 2231908., 2340581., 2449254., 2557927.,
      2666600., 2775273., 2883946., 2992619., 3101292., 3209965., 1752174.,
      1864943., 1977712., 2090481., 2203250., 2316019., 2428788., 2541557.,
      2654326., 2767095., 2879864., 2992633., 3105402., 3218171., 3330940.,
      3568765., 3685630., 3802495., 3919360., 4036225., 4153090., 4269955.,
      4386820., 4503685., 4620550., 4737415., 4854280., 4971145., 5088010.,
      5204875., 3693836., 3814797., 3935758., 4056719., 4177680., 4298641.,
      4419602., 4540563., 4661524., 4782485., 4903446., 5024407., 5145368.,
      5266329., 5387290., 3818907., 3943964., 4069021., 4194078., 4319135.,
      4444192., 4569249., 4694306., 4819363., 4944420., 5069477., 5194534.,
      5319591., 5444648., 5569705., 3943978., 4073131., 4202284., 4331437.,
      4460590., 4589743., 4718896., 4848049., 4977202., 5106355., 5235508.,
      5364661., 5493814., 5622967., 5752120., 4069049., 4202298., 4335547.,
      4468796., 4602045., 4735294., 4868543., 5001792., 5135041., 5268290.,
      5401539., 5534788., 5668037., 5801286., 5934535., 4194120., 4331465.,
      4468810., 4606155., 4743500., 4880845., 5018190., 5155535., 5292880.,
      5430225., 5567570., 5704915., 5842260., 5979605., 6116950., 4319191.,
      4460632., 4602073., 4743514., 4884955., 5026396., 5167837., 5309278.,
      5450719., 5592160., 5733601., 5875042., 6016483., 6157924., 6299365.,
      4444262., 4589799., 4735336., 4880873., 5026410., 5171947., 5317484.,
      5463021., 5608558., 5754095., 5899632., 6045169., 6190706., 6336243.,
      6481780., 4569333., 4718966., 4868599., 5018232., 5167865., 5317498.,
      5467131., 5616764., 5766397., 5916030., 6065663., 6215296., 6364929.,
      6514562., 6664195., 4694404., 4848133., 5001862., 5155591., 5309320.,
      5463049., 5616778., 5770507., 5924236., 6077965., 6231694., 6385423.,
      6539152., 6692881., 6846610., 4819475., 4977300., 5135125., 5292950.,
      5450775., 5608600., 5766425., 5924250., 6082075., 6239900., 6397725.,
      6555550., 6713375., 6871200., 7029025., 4944546., 5106467., 5268388.,
      5430309., 5592230., 5754151., 5916072., 6077993., 6239914., 6401835.,
      6563756., 6725677., 6887598., 7049519., 7211440., 5069617., 5235634.,
      5401651., 5567668., 5733685., 5899702., 6065719., 6231736., 6397753.,
      6563770., 6729787., 6895804., 7061821., 7227838., 7393855., 5194688.,
      5364801., 5534914., 5705027., 5875140., 6045253., 6215366., 6385479.,
      6555592., 6725705., 6895818., 7065931., 7236044., 7406157., 7576270.};
  const int batches = 3;
  const int m = 14;
  const int k = 16;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M14xK16xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   34152.,   3689.,    9962.,    16235.,   22508.,   28781.,
      35054.,   41327.,   47600.,   53873.,   60146.,   66419.,   72692.,
      78965.,   85238.,   91511.,   97784.,   5881.,    16250.,   26619.,
      36988.,   47357.,   57726.,   68095.,   78464.,   88833.,   99202.,
      109571.,  119940.,  130309.,  140678.,  151047.,  161416.,  8073.,
      22538.,   37003.,   51468.,   65933.,   80398.,   94863.,   109328.,
      123793.,  138258.,  152723.,  167188.,  181653.,  196118.,  210583.,
      225048.,  10265.,   28826.,   47387.,   65948.,   84509.,   103070.,
      121631.,  140192.,  158753.,  177314.,  195875.,  214436.,  232997.,
      251558.,  270119.,  288680.,  12457.,   35114.,   57771.,   80428.,
      103085.,  125742.,  148399.,  171056.,  193713.,  216370.,  239027.,
      261684.,  284341.,  306998.,  329655.,  352312.,  14649.,   41402.,
      68155.,   94908.,   121661.,  148414.,  175167.,  201920.,  228673.,
      255426.,  282179.,  308932.,  335685.,  362438.,  389191.,  415944.,
      16841.,   47690.,   78539.,   109388.,  140237.,  171086.,  201935.,
      232784.,  263633.,  294482.,  325331.,  356180.,  387029.,  417878.,
      448727.,  479576.,  19033.,   53978.,   88923.,   123868.,  158813.,
      193758.,  228703.,  263648.,  298593.,  333538.,  368483.,  403428.,
      438373.,  473318.,  508263.,  543208.,  21225.,   60266.,   99307.,
      138348.,  177389.,  216430.,  255471.,  294512.,  333553.,  372594.,
      411635.,  450676.,  489717.,  528758.,  567799.,  606840.,  23417.,
      66554.,   109691.,  152828.,  195965.,  239102.,  282239.,  325376.,
      368513.,  411650.,  454787.,  497924.,  541061.,  584198.,  627335.,
      670472.,  25609.,   72842.,   120075.,  167308.,  214541.,  261774.,
      309007.,  356240.,  403473.,  450706.,  497939.,  545172.,  592405.,
      639638.,  686871.,  734104.,  27801.,   79130.,   130459.,  181788.,
      233117.,  284446.,  335775.,  387104.,  438433.,  489762.,  541091.,
      592420.,  643749.,  695078.,  746407.,  797736.,  29993.,   85418.,
      140843.,  196268.,  251693.,  307118.,  362543.,  417968.,  473393.,
      528818.,  584243.,  639668.,  695093.,  750518.,  805943.,  861368.,
      984505.,  1044026., 1103547., 1163068., 1222589., 1282110., 1341631.,
      1401152., 1460673., 1520194., 1579715., 1639236., 1698757., 1758278.,
      1817799., 1877320., 1052233., 1115850., 1179467., 1243084., 1306701.,
      1370318., 1433935., 1497552., 1561169., 1624786., 1688403., 1752020.,
      1815637., 1879254., 1942871., 2006488., 1119961., 1187674., 1255387.,
      1323100., 1390813., 1458526., 1526239., 1593952., 1661665., 1729378.,
      1797091., 1864804., 1932517., 2000230., 2067943., 2135656., 1187689.,
      1259498., 1331307., 1403116., 1474925., 1546734., 1618543., 1690352.,
      1762161., 1833970., 1905779., 1977588., 2049397., 2121206., 2193015.,
      2264824., 1255417., 1331322., 1407227., 1483132., 1559037., 1634942.,
      1710847., 1786752., 1862657., 1938562., 2014467., 2090372., 2166277.,
      2242182., 2318087., 2393992., 1323145., 1403146., 1483147., 1563148.,
      1643149., 1723150., 1803151., 1883152., 1963153., 2043154., 2123155.,
      2203156., 2283157., 2363158., 2443159., 2523160., 1390873., 1474970.,
      1559067., 1643164., 1727261., 1811358., 1895455., 1979552., 2063649.,
      2147746., 2231843., 2315940., 2400037., 2484134., 2568231., 2652328.,
      1458601., 1546794., 1634987., 1723180., 1811373., 1899566., 1987759.,
      2075952., 2164145., 2252338., 2340531., 2428724., 2516917., 2605110.,
      2693303., 2781496., 1526329., 1618618., 1710907., 1803196., 1895485.,
      1987774., 2080063., 2172352., 2264641., 2356930., 2449219., 2541508.,
      2633797., 2726086., 2818375., 2910664., 1594057., 1690442., 1786827.,
      1883212., 1979597., 2075982., 2172367., 2268752., 2365137., 2461522.,
      2557907., 2654292., 2750677., 2847062., 2943447., 3039832., 1661785.,
      1762266., 1862747., 1963228., 2063709., 2164190., 2264671., 2365152.,
      2465633., 2566114., 2666595., 2767076., 2867557., 2968038., 3068519.,
      3169000., 1729513., 1834090., 1938667., 2043244., 2147821., 2252398.,
      2356975., 2461552., 2566129., 2670706., 2775283., 2879860., 2984437.,
      3089014., 3193591., 3298168., 1797241., 1905914., 2014587., 2123260.,
      2231933., 2340606., 2449279., 2557952., 2666625., 2775298., 2883971.,
      2992644., 3101317., 3209990., 3318663., 3427336., 1864969., 1977738.,
      2090507., 2203276., 2316045., 2428814., 2541583., 2654352., 2767121.,
      2879890., 2992659., 3105428., 3218197., 3330966., 3443735., 3556504.,
      3802521., 3919386., 4036251., 4153116., 4269981., 4386846., 4503711.,
      4620576., 4737441., 4854306., 4971171., 5088036., 5204901., 5321766.,
      5438631., 5555496., 3935785., 4056746., 4177707., 4298668., 4419629.,
      4540590., 4661551., 4782512., 4903473., 5024434., 5145395., 5266356.,
      5387317., 5508278., 5629239., 5750200., 4069049., 4194106., 4319163.,
      4444220., 4569277., 4694334., 4819391., 4944448., 5069505., 5194562.,
      5319619., 5444676., 5569733., 5694790., 5819847., 5944904., 4202313.,
      4331466., 4460619., 4589772., 4718925., 4848078., 4977231., 5106384.,
      5235537., 5364690., 5493843., 5622996., 5752149., 5881302., 6010455.,
      6139608., 4335577., 4468826., 4602075., 4735324., 4868573., 5001822.,
      5135071., 5268320., 5401569., 5534818., 5668067., 5801316., 5934565.,
      6067814., 6201063., 6334312., 4468841., 4606186., 4743531., 4880876.,
      5018221., 5155566., 5292911., 5430256., 5567601., 5704946., 5842291.,
      5979636., 6116981., 6254326., 6391671., 6529016., 4602105., 4743546.,
      4884987., 5026428., 5167869., 5309310., 5450751., 5592192., 5733633.,
      5875074., 6016515., 6157956., 6299397., 6440838., 6582279., 6723720.,
      4735369., 4880906., 5026443., 5171980., 5317517., 5463054., 5608591.,
      5754128., 5899665., 6045202., 6190739., 6336276., 6481813., 6627350.,
      6772887., 6918424., 4868633., 5018266., 5167899., 5317532., 5467165.,
      5616798., 5766431., 5916064., 6065697., 6215330., 6364963., 6514596.,
      6664229., 6813862., 6963495., 7113128., 5001897., 5155626., 5309355.,
      5463084., 5616813., 5770542., 5924271., 6078000., 6231729., 6385458.,
      6539187., 6692916., 6846645., 7000374., 7154103., 7307832., 5135161.,
      5292986., 5450811., 5608636., 5766461., 5924286., 6082111., 6239936.,
      6397761., 6555586., 6713411., 6871236., 7029061., 7186886., 7344711.,
      7502536., 5268425., 5430346., 5592267., 5754188., 5916109., 6078030.,
      6239951., 6401872., 6563793., 6725714., 6887635., 7049556., 7211477.,
      7373398., 7535319., 7697240., 5401689., 5567706., 5733723., 5899740.,
      6065757., 6231774., 6397791., 6563808., 6729825., 6895842., 7061859.,
      7227876., 7393893., 7559910., 7725927., 7891944., 5534953., 5705066.,
      5875179., 6045292., 6215405., 6385518., 6555631., 6725744., 6895857.,
      7065970., 7236083., 7406196., 7576309., 7746422., 7916535., 8086648.};
  const int batches = 3;
  const int m = 14;
  const int k = 16;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK14xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      2500.,    6715.,    10930.,   15145.,   19360.,   23575.,   27790.,
      32005.,   36220.,   40435.,   44650.,   48865.,   53080.,   57295.,
      3984.,    10943.,   17902.,   24861.,   31820.,   38779.,   45738.,
      52697.,   59656.,   66615.,   73574.,   80533.,   87492.,   94451.,
      5468.,    15171.,   24874.,   34577.,   44280.,   53983.,   63686.,
      73389.,   83092.,   92795.,   102498.,  112201.,  121904.,  131607.,
      6952.,    19399.,   31846.,   44293.,   56740.,   69187.,   81634.,
      94081.,   106528.,  118975.,  131422.,  143869.,  156316.,  168763.,
      8436.,    23627.,   38818.,   54009.,   69200.,   84391.,   99582.,
      114773.,  129964.,  145155.,  160346.,  175537.,  190728.,  205919.,
      9920.,    27855.,   45790.,   63725.,   81660.,   99595.,   117530.,
      135465.,  153400.,  171335.,  189270.,  207205.,  225140.,  243075.,
      11404.,   32083.,   52762.,   73441.,   94120.,   114799.,  135478.,
      156157.,  176836.,  197515.,  218194.,  238873.,  259552.,  280231.,
      12888.,   36311.,   59734.,   83157.,   106580.,  130003.,  153426.,
      176849.,  200272.,  223695.,  247118.,  270541.,  293964.,  317387.,
      14372.,   40539.,   66706.,   92873.,   119040.,  145207.,  171374.,
      197541.,  223708.,  249875.,  276042.,  302209.,  328376.,  354543.,
      15856.,   44767.,   73678.,   102589.,  131500.,  160411.,  189322.,
      218233.,  247144.,  276055.,  304966.,  333877.,  362788.,  391699.,
      17340.,   48995.,   80650.,   112305.,  143960.,  175615.,  207270.,
      238925.,  270580.,  302235.,  333890.,  365545.,  397200.,  428855.,
      18824.,   53223.,   87622.,   122021.,  156420.,  190819.,  225218.,
      259617.,  294016.,  328415.,  362814.,  397213.,  431612.,  466011.,
      20308.,   57451.,   94594.,   131737.,  168880.,  206023.,  243166.,
      280309.,  317452.,  354595.,  391738.,  428881.,  466024.,  503167.,
      21792.,   61679.,   101566.,  141453.,  181340.,  221227.,  261114.,
      301001.,  340888.,  380775.,  420662.,  460549.,  500436.,  540323.,
      620096.,  662727.,  705358.,  747989.,  790620.,  833251.,  875882.,
      918513.,  961144.,  1003775., 1046406., 1089037., 1131668., 1174299.,
      659996.,  705371.,  750746.,  796121.,  841496.,  886871.,  932246.,
      977621.,  1022996., 1068371., 1113746., 1159121., 1204496., 1249871.,
      699896.,  748015.,  796134.,  844253.,  892372.,  940491.,  988610.,
      1036729., 1084848., 1132967., 1181086., 1229205., 1277324., 1325443.,
      739796.,  790659.,  841522.,  892385.,  943248.,  994111.,  1044974.,
      1095837., 1146700., 1197563., 1248426., 1299289., 1350152., 1401015.,
      779696.,  833303.,  886910.,  940517.,  994124.,  1047731., 1101338.,
      1154945., 1208552., 1262159., 1315766., 1369373., 1422980., 1476587.,
      819596.,  875947.,  932298.,  988649.,  1045000., 1101351., 1157702.,
      1214053., 1270404., 1326755., 1383106., 1439457., 1495808., 1552159.,
      859496.,  918591.,  977686.,  1036781., 1095876., 1154971., 1214066.,
      1273161., 1332256., 1391351., 1450446., 1509541., 1568636., 1627731.,
      899396.,  961235.,  1023074., 1084913., 1146752., 1208591., 1270430.,
      1332269., 1394108., 1455947., 1517786., 1579625., 1641464., 1703303.,
      939296.,  1003879., 1068462., 1133045., 1197628., 1262211., 1326794.,
      1391377., 1455960., 1520543., 1585126., 1649709., 1714292., 1778875.,
      979196.,  1046523., 1113850., 1181177., 1248504., 1315831., 1383158.,
      1450485., 1517812., 1585139., 1652466., 1719793., 1787120., 1854447.,
      1019096., 1089167., 1159238., 1229309., 1299380., 1369451., 1439522.,
      1509593., 1579664., 1649735., 1719806., 1789877., 1859948., 1930019.,
      1058996., 1131811., 1204626., 1277441., 1350256., 1423071., 1495886.,
      1568701., 1641516., 1714331., 1787146., 1859961., 1932776., 2005591.,
      1098896., 1174455., 1250014., 1325573., 1401132., 1476691., 1552250.,
      1627809., 1703368., 1778927., 1854486., 1930045., 2005604., 2081163.,
      1138796., 1217099., 1295402., 1373705., 1452008., 1530311., 1608614.,
      1686917., 1765220., 1843523., 1921826., 2000129., 2078432., 2156735.,
      1178696., 1259743., 1340790., 1421837., 1502884., 1583931., 1664978.,
      1746025., 1827072., 1908119., 1989166., 2070213., 2151260., 2232307.,
      2391656., 2475447., 2559238., 2643029., 2726820., 2810611., 2894402.,
      2978193., 3061984., 3145775., 3229566., 3313357., 3397148., 3480939.,
      2469972., 2556507., 2643042., 2729577., 2816112., 2902647., 2989182.,
      3075717., 3162252., 3248787., 3335322., 3421857., 3508392., 3594927.,
      2548288., 2637567., 2726846., 2816125., 2905404., 2994683., 3083962.,
      3173241., 3262520., 3351799., 3441078., 3530357., 3619636., 3708915.,
      2626604., 2718627., 2810650., 2902673., 2994696., 3086719., 3178742.,
      3270765., 3362788., 3454811., 3546834., 3638857., 3730880., 3822903.,
      2704920., 2799687., 2894454., 2989221., 3083988., 3178755., 3273522.,
      3368289., 3463056., 3557823., 3652590., 3747357., 3842124., 3936891.,
      2783236., 2880747., 2978258., 3075769., 3173280., 3270791., 3368302.,
      3465813., 3563324., 3660835., 3758346., 3855857., 3953368., 4050879.,
      2861552., 2961807., 3062062., 3162317., 3262572., 3362827., 3463082.,
      3563337., 3663592., 3763847., 3864102., 3964357., 4064612., 4164867.,
      2939868., 3042867., 3145866., 3248865., 3351864., 3454863., 3557862.,
      3660861., 3763860., 3866859., 3969858., 4072857., 4175856., 4278855.,
      3018184., 3123927., 3229670., 3335413., 3441156., 3546899., 3652642.,
      3758385., 3864128., 3969871., 4075614., 4181357., 4287100., 4392843.,
      3096500., 3204987., 3313474., 3421961., 3530448., 3638935., 3747422.,
      3855909., 3964396., 4072883., 4181370., 4289857., 4398344., 4506831.,
      3174816., 3286047., 3397278., 3508509., 3619740., 3730971., 3842202.,
      3953433., 4064664., 4175895., 4287126., 4398357., 4509588., 4620819.,
      3253132., 3367107., 3481082., 3595057., 3709032., 3823007., 3936982.,
      4050957., 4164932., 4278907., 4392882., 4506857., 4620832., 4734807.,
      3331448., 3448167., 3564886., 3681605., 3798324., 3915043., 4031762.,
      4148481., 4265200., 4381919., 4498638., 4615357., 4732076., 4848795.,
      3409764., 3529227., 3648690., 3768153., 3887616., 4007079., 4126542.,
      4246005., 4365468., 4484931., 4604394., 4723857., 4843320., 4962783.,
      3488080., 3610287., 3732494., 3854701., 3976908., 4099115., 4221322.,
      4343529., 4465736., 4587943., 4710150., 4832357., 4954564., 5076771.};
  const int batches = 3;
  const int m = 15;
  const int k = 14;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK14xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   2501.,    6716.,    10931.,   15146.,   19361.,   23576.,
      27791.,   32006.,   36221.,   40436.,   44651.,   48866.,   53081.,
      57296.,   61511.,   3986.,    10945.,   17904.,   24863.,   31822.,
      38781.,   45740.,   52699.,   59658.,   66617.,   73576.,   80535.,
      87494.,   94453.,   101412.,  5471.,    15174.,   24877.,   34580.,
      44283.,   53986.,   63689.,   73392.,   83095.,   92798.,   102501.,
      112204.,  121907.,  131610.,  141313.,  6956.,    19403.,   31850.,
      44297.,   56744.,   69191.,   81638.,   94085.,   106532.,  118979.,
      131426.,  143873.,  156320.,  168767.,  181214.,  8441.,    23632.,
      38823.,   54014.,   69205.,   84396.,   99587.,   114778.,  129969.,
      145160.,  160351.,  175542.,  190733.,  205924.,  221115.,  9926.,
      27861.,   45796.,   63731.,   81666.,   99601.,   117536.,  135471.,
      153406.,  171341.,  189276.,  207211.,  225146.,  243081.,  261016.,
      11411.,   32090.,   52769.,   73448.,   94127.,   114806.,  135485.,
      156164.,  176843.,  197522.,  218201.,  238880.,  259559.,  280238.,
      300917.,  12896.,   36319.,   59742.,   83165.,   106588.,  130011.,
      153434.,  176857.,  200280.,  223703.,  247126.,  270549.,  293972.,
      317395.,  340818.,  14381.,   40548.,   66715.,   92882.,   119049.,
      145216.,  171383.,  197550.,  223717.,  249884.,  276051.,  302218.,
      328385.,  354552.,  380719.,  15866.,   44777.,   73688.,   102599.,
      131510.,  160421.,  189332.,  218243.,  247154.,  276065.,  304976.,
      333887.,  362798.,  391709.,  420620.,  17351.,   49006.,   80661.,
      112316.,  143971.,  175626.,  207281.,  238936.,  270591.,  302246.,
      333901.,  365556.,  397211.,  428866.,  460521.,  18836.,   53235.,
      87634.,   122033.,  156432.,  190831.,  225230.,  259629.,  294028.,
      328427.,  362826.,  397225.,  431624.,  466023.,  500422.,  20321.,
      57464.,   94607.,   131750.,  168893.,  206036.,  243179.,  280322.,
      317465.,  354608.,  391751.,  428894.,  466037.,  503180.,  540323.,
      21806.,   61693.,   101580.,  141467.,  181354.,  221241.,  261128.,
      301015.,  340902.,  380789.,  420676.,  460563.,  500450.,  540337.,
      580224.,  662741.,  705372.,  748003.,  790634.,  833265.,  875896.,
      918527.,  961158.,  1003789., 1046420., 1089051., 1131682., 1174313.,
      1216944., 1259575., 705386.,  750761.,  796136.,  841511.,  886886.,
      932261.,  977636.,  1023011., 1068386., 1113761., 1159136., 1204511.,
      1249886., 1295261., 1340636., 748031.,  796150.,  844269.,  892388.,
      940507.,  988626.,  1036745., 1084864., 1132983., 1181102., 1229221.,
      1277340., 1325459., 1373578., 1421697., 790676.,  841539.,  892402.,
      943265.,  994128.,  1044991., 1095854., 1146717., 1197580., 1248443.,
      1299306., 1350169., 1401032., 1451895., 1502758., 833321.,  886928.,
      940535.,  994142.,  1047749., 1101356., 1154963., 1208570., 1262177.,
      1315784., 1369391., 1422998., 1476605., 1530212., 1583819., 875966.,
      932317.,  988668.,  1045019., 1101370., 1157721., 1214072., 1270423.,
      1326774., 1383125., 1439476., 1495827., 1552178., 1608529., 1664880.,
      918611.,  977706.,  1036801., 1095896., 1154991., 1214086., 1273181.,
      1332276., 1391371., 1450466., 1509561., 1568656., 1627751., 1686846.,
      1745941., 961256.,  1023095., 1084934., 1146773., 1208612., 1270451.,
      1332290., 1394129., 1455968., 1517807., 1579646., 1641485., 1703324.,
      1765163., 1827002., 1003901., 1068484., 1133067., 1197650., 1262233.,
      1326816., 1391399., 1455982., 1520565., 1585148., 1649731., 1714314.,
      1778897., 1843480., 1908063., 1046546., 1113873., 1181200., 1248527.,
      1315854., 1383181., 1450508., 1517835., 1585162., 1652489., 1719816.,
      1787143., 1854470., 1921797., 1989124., 1089191., 1159262., 1229333.,
      1299404., 1369475., 1439546., 1509617., 1579688., 1649759., 1719830.,
      1789901., 1859972., 1930043., 2000114., 2070185., 1131836., 1204651.,
      1277466., 1350281., 1423096., 1495911., 1568726., 1641541., 1714356.,
      1787171., 1859986., 1932801., 2005616., 2078431., 2151246., 1174481.,
      1250040., 1325599., 1401158., 1476717., 1552276., 1627835., 1703394.,
      1778953., 1854512., 1930071., 2005630., 2081189., 2156748., 2232307.,
      1217126., 1295429., 1373732., 1452035., 1530338., 1608641., 1686944.,
      1765247., 1843550., 1921853., 2000156., 2078459., 2156762., 2235065.,
      2313368., 1259771., 1340818., 1421865., 1502912., 1583959., 1665006.,
      1746053., 1827100., 1908147., 1989194., 2070241., 2151288., 2232335.,
      2313382., 2394429., 2559266., 2643057., 2726848., 2810639., 2894430.,
      2978221., 3062012., 3145803., 3229594., 3313385., 3397176., 3480967.,
      3564758., 3648549., 3732340., 2643071., 2729606., 2816141., 2902676.,
      2989211., 3075746., 3162281., 3248816., 3335351., 3421886., 3508421.,
      3594956., 3681491., 3768026., 3854561., 2726876., 2816155., 2905434.,
      2994713., 3083992., 3173271., 3262550., 3351829., 3441108., 3530387.,
      3619666., 3708945., 3798224., 3887503., 3976782., 2810681., 2902704.,
      2994727., 3086750., 3178773., 3270796., 3362819., 3454842., 3546865.,
      3638888., 3730911., 3822934., 3914957., 4006980., 4099003., 2894486.,
      2989253., 3084020., 3178787., 3273554., 3368321., 3463088., 3557855.,
      3652622., 3747389., 3842156., 3936923., 4031690., 4126457., 4221224.,
      2978291., 3075802., 3173313., 3270824., 3368335., 3465846., 3563357.,
      3660868., 3758379., 3855890., 3953401., 4050912., 4148423., 4245934.,
      4343445., 3062096., 3162351., 3262606., 3362861., 3463116., 3563371.,
      3663626., 3763881., 3864136., 3964391., 4064646., 4164901., 4265156.,
      4365411., 4465666., 3145901., 3248900., 3351899., 3454898., 3557897.,
      3660896., 3763895., 3866894., 3969893., 4072892., 4175891., 4278890.,
      4381889., 4484888., 4587887., 3229706., 3335449., 3441192., 3546935.,
      3652678., 3758421., 3864164., 3969907., 4075650., 4181393., 4287136.,
      4392879., 4498622., 4604365., 4710108., 3313511., 3421998., 3530485.,
      3638972., 3747459., 3855946., 3964433., 4072920., 4181407., 4289894.,
      4398381., 4506868., 4615355., 4723842., 4832329., 3397316., 3508547.,
      3619778., 3731009., 3842240., 3953471., 4064702., 4175933., 4287164.,
      4398395., 4509626., 4620857., 4732088., 4843319., 4954550., 3481121.,
      3595096., 3709071., 3823046., 3937021., 4050996., 4164971., 4278946.,
      4392921., 4506896., 4620871., 4734846., 4848821., 4962796., 5076771.,
      3564926., 3681645., 3798364., 3915083., 4031802., 4148521., 4265240.,
      4381959., 4498678., 4615397., 4732116., 4848835., 4965554., 5082273.,
      5198992., 3648731., 3768194., 3887657., 4007120., 4126583., 4246046.,
      4365509., 4484972., 4604435., 4723898., 4843361., 4962824., 5082287.,
      5201750., 5321213., 3732536., 3854743., 3976950., 4099157., 4221364.,
      4343571., 4465778., 4587985., 4710192., 4832399., 4954606., 5076813.,
      5199020., 5321227., 5443434.};
  const int batches = 3;
  const int m = 15;
  const int k = 14;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK14xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   23081.,   2502.,    6717.,    10932.,   15147.,   19362.,
      23577.,   27792.,   32007.,   36222.,   40437.,   44652.,   48867.,
      53082.,   57297.,   61512.,   65727.,   3988.,    10947.,   17906.,
      24865.,   31824.,   38783.,   45742.,   52701.,   59660.,   66619.,
      73578.,   80537.,   87496.,   94455.,   101414.,  108373.,  5474.,
      15177.,   24880.,   34583.,   44286.,   53989.,   63692.,   73395.,
      83098.,   92801.,   102504.,  112207.,  121910.,  131613.,  141316.,
      151019.,  6960.,    19407.,   31854.,   44301.,   56748.,   69195.,
      81642.,   94089.,   106536.,  118983.,  131430.,  143877.,  156324.,
      168771.,  181218.,  193665.,  8446.,    23637.,   38828.,   54019.,
      69210.,   84401.,   99592.,   114783.,  129974.,  145165.,  160356.,
      175547.,  190738.,  205929.,  221120.,  236311.,  9932.,    27867.,
      45802.,   63737.,   81672.,   99607.,   117542.,  135477.,  153412.,
      171347.,  189282.,  207217.,  225152.,  243087.,  261022.,  278957.,
      11418.,   32097.,   52776.,   73455.,   94134.,   114813.,  135492.,
      156171.,  176850.,  197529.,  218208.,  238887.,  259566.,  280245.,
      300924.,  321603.,  12904.,   36327.,   59750.,   83173.,   106596.,
      130019.,  153442.,  176865.,  200288.,  223711.,  247134.,  270557.,
      293980.,  317403.,  340826.,  364249.,  14390.,   40557.,   66724.,
      92891.,   119058.,  145225.,  171392.,  197559.,  223726.,  249893.,
      276060.,  302227.,  328394.,  354561.,  380728.,  406895.,  15876.,
      44787.,   73698.,   102609.,  131520.,  160431.,  189342.,  218253.,
      247164.,  276075.,  304986.,  333897.,  362808.,  391719.,  420630.,
      449541.,  17362.,   49017.,   80672.,   112327.,  143982.,  175637.,
      207292.,  238947.,  270602.,  302257.,  333912.,  365567.,  397222.,
      428877.,  460532.,  492187.,  18848.,   53247.,   87646.,   122045.,
      156444.,  190843.,  225242.,  259641.,  294040.,  328439.,  362838.,
      397237.,  431636.,  466035.,  500434.,  534833.,  20334.,   57477.,
      94620.,   131763.,  168906.,  206049.,  243192.,  280335.,  317478.,
      354621.,  391764.,  428907.,  466050.,  503193.,  540336.,  577479.,
      21820.,   61707.,   101594.,  141481.,  181368.,  221255.,  261142.,
      301029.,  340916.,  380803.,  420690.,  460577.,  500464.,  540351.,
      580238.,  620125.,  705386.,  748017.,  790648.,  833279.,  875910.,
      918541.,  961172.,  1003803., 1046434., 1089065., 1131696., 1174327.,
      1216958., 1259589., 1302220., 1344851., 750776.,  796151.,  841526.,
      886901.,  932276.,  977651.,  1023026., 1068401., 1113776., 1159151.,
      1204526., 1249901., 1295276., 1340651., 1386026., 1431401., 796166.,
      844285.,  892404.,  940523.,  988642.,  1036761., 1084880., 1132999.,
      1181118., 1229237., 1277356., 1325475., 1373594., 1421713., 1469832.,
      1517951., 841556.,  892419.,  943282.,  994145.,  1045008., 1095871.,
      1146734., 1197597., 1248460., 1299323., 1350186., 1401049., 1451912.,
      1502775., 1553638., 1604501., 886946.,  940553.,  994160.,  1047767.,
      1101374., 1154981., 1208588., 1262195., 1315802., 1369409., 1423016.,
      1476623., 1530230., 1583837., 1637444., 1691051., 932336.,  988687.,
      1045038., 1101389., 1157740., 1214091., 1270442., 1326793., 1383144.,
      1439495., 1495846., 1552197., 1608548., 1664899., 1721250., 1777601.,
      977726.,  1036821., 1095916., 1155011., 1214106., 1273201., 1332296.,
      1391391., 1450486., 1509581., 1568676., 1627771., 1686866., 1745961.,
      1805056., 1864151., 1023116., 1084955., 1146794., 1208633., 1270472.,
      1332311., 1394150., 1455989., 1517828., 1579667., 1641506., 1703345.,
      1765184., 1827023., 1888862., 1950701., 1068506., 1133089., 1197672.,
      1262255., 1326838., 1391421., 1456004., 1520587., 1585170., 1649753.,
      1714336., 1778919., 1843502., 1908085., 1972668., 2037251., 1113896.,
      1181223., 1248550., 1315877., 1383204., 1450531., 1517858., 1585185.,
      1652512., 1719839., 1787166., 1854493., 1921820., 1989147., 2056474.,
      2123801., 1159286., 1229357., 1299428., 1369499., 1439570., 1509641.,
      1579712., 1649783., 1719854., 1789925., 1859996., 1930067., 2000138.,
      2070209., 2140280., 2210351., 1204676., 1277491., 1350306., 1423121.,
      1495936., 1568751., 1641566., 1714381., 1787196., 1860011., 1932826.,
      2005641., 2078456., 2151271., 2224086., 2296901., 1250066., 1325625.,
      1401184., 1476743., 1552302., 1627861., 1703420., 1778979., 1854538.,
      1930097., 2005656., 2081215., 2156774., 2232333., 2307892., 2383451.,
      1295456., 1373759., 1452062., 1530365., 1608668., 1686971., 1765274.,
      1843577., 1921880., 2000183., 2078486., 2156789., 2235092., 2313395.,
      2391698., 2470001., 1340846., 1421893., 1502940., 1583987., 1665034.,
      1746081., 1827128., 1908175., 1989222., 2070269., 2151316., 2232363.,
      2313410., 2394457., 2475504., 2556551., 2726876., 2810667., 2894458.,
      2978249., 3062040., 3145831., 3229622., 3313413., 3397204., 3480995.,
      3564786., 3648577., 3732368., 3816159., 3899950., 3983741., 2816170.,
      2902705., 2989240., 3075775., 3162310., 3248845., 3335380., 3421915.,
      3508450., 3594985., 3681520., 3768055., 3854590., 3941125., 4027660.,
      4114195., 2905464., 2994743., 3084022., 3173301., 3262580., 3351859.,
      3441138., 3530417., 3619696., 3708975., 3798254., 3887533., 3976812.,
      4066091., 4155370., 4244649., 2994758., 3086781., 3178804., 3270827.,
      3362850., 3454873., 3546896., 3638919., 3730942., 3822965., 3914988.,
      4007011., 4099034., 4191057., 4283080., 4375103., 3084052., 3178819.,
      3273586., 3368353., 3463120., 3557887., 3652654., 3747421., 3842188.,
      3936955., 4031722., 4126489., 4221256., 4316023., 4410790., 4505557.,
      3173346., 3270857., 3368368., 3465879., 3563390., 3660901., 3758412.,
      3855923., 3953434., 4050945., 4148456., 4245967., 4343478., 4440989.,
      4538500., 4636011., 3262640., 3362895., 3463150., 3563405., 3663660.,
      3763915., 3864170., 3964425., 4064680., 4164935., 4265190., 4365445.,
      4465700., 4565955., 4666210., 4766465., 3351934., 3454933., 3557932.,
      3660931., 3763930., 3866929., 3969928., 4072927., 4175926., 4278925.,
      4381924., 4484923., 4587922., 4690921., 4793920., 4896919., 3441228.,
      3546971., 3652714., 3758457., 3864200., 3969943., 4075686., 4181429.,
      4287172., 4392915., 4498658., 4604401., 4710144., 4815887., 4921630.,
      5027373., 3530522., 3639009., 3747496., 3855983., 3964470., 4072957.,
      4181444., 4289931., 4398418., 4506905., 4615392., 4723879., 4832366.,
      4940853., 5049340., 5157827., 3619816., 3731047., 3842278., 3953509.,
      4064740., 4175971., 4287202., 4398433., 4509664., 4620895., 4732126.,
      4843357., 4954588., 5065819., 5177050., 5288281., 3709110., 3823085.,
      3937060., 4051035., 4165010., 4278985., 4392960., 4506935., 4620910.,
      4734885., 4848860., 4962835., 5076810., 5190785., 5304760., 5418735.,
      3798404., 3915123., 4031842., 4148561., 4265280., 4381999., 4498718.,
      4615437., 4732156., 4848875., 4965594., 5082313., 5199032., 5315751.,
      5432470., 5549189., 3887698., 4007161., 4126624., 4246087., 4365550.,
      4485013., 4604476., 4723939., 4843402., 4962865., 5082328., 5201791.,
      5321254., 5440717., 5560180., 5679643., 3976992., 4099199., 4221406.,
      4343613., 4465820., 4588027., 4710234., 4832441., 4954648., 5076855.,
      5199062., 5321269., 5443476., 5565683., 5687890., 5810097.};
  const int batches = 3;
  const int m = 15;
  const int k = 14;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK15xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      3055.,    8231.,    13407.,   18583.,   23759.,   28935.,   34111.,
      39287.,   44463.,   49639.,   54815.,   59991.,   65167.,   70343.,
      4869.,    13420.,   21971.,   30522.,   39073.,   47624.,   56175.,
      64726.,   73277.,   81828.,   90379.,   98930.,   107481.,  116032.,
      6683.,    18609.,   30535.,   42461.,   54387.,   66313.,   78239.,
      90165.,   102091.,  114017.,  125943.,  137869.,  149795.,  161721.,
      8497.,    23798.,   39099.,   54400.,   69701.,   85002.,   100303.,
      115604.,  130905.,  146206.,  161507.,  176808.,  192109.,  207410.,
      10311.,   28987.,   47663.,   66339.,   85015.,   103691.,  122367.,
      141043.,  159719.,  178395.,  197071.,  215747.,  234423.,  253099.,
      12125.,   34176.,   56227.,   78278.,   100329.,  122380.,  144431.,
      166482.,  188533.,  210584.,  232635.,  254686.,  276737.,  298788.,
      13939.,   39365.,   64791.,   90217.,   115643.,  141069.,  166495.,
      191921.,  217347.,  242773.,  268199.,  293625.,  319051.,  344477.,
      15753.,   44554.,   73355.,   102156.,  130957.,  159758.,  188559.,
      217360.,  246161.,  274962.,  303763.,  332564.,  361365.,  390166.,
      17567.,   49743.,   81919.,   114095.,  146271.,  178447.,  210623.,
      242799.,  274975.,  307151.,  339327.,  371503.,  403679.,  435855.,
      19381.,   54932.,   90483.,   126034.,  161585.,  197136.,  232687.,
      268238.,  303789.,  339340.,  374891.,  410442.,  445993.,  481544.,
      21195.,   60121.,   99047.,   137973.,  176899.,  215825.,  254751.,
      293677.,  332603.,  371529.,  410455.,  449381.,  488307.,  527233.,
      23009.,   65310.,   107611.,  149912.,  192213.,  234514.,  276815.,
      319116.,  361417.,  403718.,  446019.,  488320.,  530621.,  572922.,
      24823.,   70499.,   116175.,  161851.,  207527.,  253203.,  298879.,
      344555.,  390231.,  435907.,  481583.,  527259.,  572935.,  618611.,
      26637.,   75688.,   124739.,  173790.,  222841.,  271892.,  320943.,
      369994.,  419045.,  468096.,  517147.,  566198.,  615249.,  664300.,
      762401.,  814827.,  867253.,  919679.,  972105.,  1024531., 1076957.,
      1129383., 1181809., 1234235., 1286661., 1339087., 1391513., 1443939.,
      811465.,  867266.,  923067.,  978868.,  1034669., 1090470., 1146271.,
      1202072., 1257873., 1313674., 1369475., 1425276., 1481077., 1536878.,
      860529.,  919705.,  978881.,  1038057., 1097233., 1156409., 1215585.,
      1274761., 1333937., 1393113., 1452289., 1511465., 1570641., 1629817.,
      909593.,  972144.,  1034695., 1097246., 1159797., 1222348., 1284899.,
      1347450., 1410001., 1472552., 1535103., 1597654., 1660205., 1722756.,
      958657.,  1024583., 1090509., 1156435., 1222361., 1288287., 1354213.,
      1420139., 1486065., 1551991., 1617917., 1683843., 1749769., 1815695.,
      1007721., 1077022., 1146323., 1215624., 1284925., 1354226., 1423527.,
      1492828., 1562129., 1631430., 1700731., 1770032., 1839333., 1908634.,
      1056785., 1129461., 1202137., 1274813., 1347489., 1420165., 1492841.,
      1565517., 1638193., 1710869., 1783545., 1856221., 1928897., 2001573.,
      1105849., 1181900., 1257951., 1334002., 1410053., 1486104., 1562155.,
      1638206., 1714257., 1790308., 1866359., 1942410., 2018461., 2094512.,
      1154913., 1234339., 1313765., 1393191., 1472617., 1552043., 1631469.,
      1710895., 1790321., 1869747., 1949173., 2028599., 2108025., 2187451.,
      1203977., 1286778., 1369579., 1452380., 1535181., 1617982., 1700783.,
      1783584., 1866385., 1949186., 2031987., 2114788., 2197589., 2280390.,
      1253041., 1339217., 1425393., 1511569., 1597745., 1683921., 1770097.,
      1856273., 1942449., 2028625., 2114801., 2200977., 2287153., 2373329.,
      1302105., 1391656., 1481207., 1570758., 1660309., 1749860., 1839411.,
      1928962., 2018513., 2108064., 2197615., 2287166., 2376717., 2466268.,
      1351169., 1444095., 1537021., 1629947., 1722873., 1815799., 1908725.,
      2001651., 2094577., 2187503., 2280429., 2373355., 2466281., 2559207.,
      1400233., 1496534., 1592835., 1689136., 1785437., 1881738., 1978039.,
      2074340., 2170641., 2266942., 2363243., 2459544., 2555845., 2652146.,
      1449297., 1548973., 1648649., 1748325., 1848001., 1947677., 2047353.,
      2147029., 2246705., 2346381., 2446057., 2545733., 2645409., 2745085.,
      2941061., 3044112., 3147163., 3250214., 3353265., 3456316., 3559367.,
      3662418., 3765469., 3868520., 3971571., 4074622., 4177673., 4280724.,
      3037375., 3143801., 3250227., 3356653., 3463079., 3569505., 3675931.,
      3782357., 3888783., 3995209., 4101635., 4208061., 4314487., 4420913.,
      3133689., 3243490., 3353291., 3463092., 3572893., 3682694., 3792495.,
      3902296., 4012097., 4121898., 4231699., 4341500., 4451301., 4561102.,
      3230003., 3343179., 3456355., 3569531., 3682707., 3795883., 3909059.,
      4022235., 4135411., 4248587., 4361763., 4474939., 4588115., 4701291.,
      3326317., 3442868., 3559419., 3675970., 3792521., 3909072., 4025623.,
      4142174., 4258725., 4375276., 4491827., 4608378., 4724929., 4841480.,
      3422631., 3542557., 3662483., 3782409., 3902335., 4022261., 4142187.,
      4262113., 4382039., 4501965., 4621891., 4741817., 4861743., 4981669.,
      3518945., 3642246., 3765547., 3888848., 4012149., 4135450., 4258751.,
      4382052., 4505353., 4628654., 4751955., 4875256., 4998557., 5121858.,
      3615259., 3741935., 3868611., 3995287., 4121963., 4248639., 4375315.,
      4501991., 4628667., 4755343., 4882019., 5008695., 5135371., 5262047.,
      3711573., 3841624., 3971675., 4101726., 4231777., 4361828., 4491879.,
      4621930., 4751981., 4882032., 5012083., 5142134., 5272185., 5402236.,
      3807887., 3941313., 4074739., 4208165., 4341591., 4475017., 4608443.,
      4741869., 4875295., 5008721., 5142147., 5275573., 5408999., 5542425.,
      3904201., 4041002., 4177803., 4314604., 4451405., 4588206., 4725007.,
      4861808., 4998609., 5135410., 5272211., 5409012., 5545813., 5682614.,
      4000515., 4140691., 4280867., 4421043., 4561219., 4701395., 4841571.,
      4981747., 5121923., 5262099., 5402275., 5542451., 5682627., 5822803.,
      4096829., 4240380., 4383931., 4527482., 4671033., 4814584., 4958135.,
      5101686., 5245237., 5388788., 5532339., 5675890., 5819441., 5962992.,
      4193143., 4340069., 4486995., 4633921., 4780847., 4927773., 5074699.,
      5221625., 5368551., 5515477., 5662403., 5809329., 5956255., 6103181.,
      4289457., 4439758., 4590059., 4740360., 4890661., 5040962., 5191263.,
      5341564., 5491865., 5642166., 5792467., 5942768., 6093069., 6243370.};
  const int batches = 3;
  const int m = 15;
  const int k = 15;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK15xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   3056.,    8232.,    13408.,   18584.,   23760.,   28936.,
      34112.,   39288.,   44464.,   49640.,   54816.,   59992.,   65168.,
      70344.,   75520.,   4871.,    13422.,   21973.,   30524.,   39075.,
      47626.,   56177.,   64728.,   73279.,   81830.,   90381.,   98932.,
      107483.,  116034.,  124585.,  6686.,    18612.,   30538.,   42464.,
      54390.,   66316.,   78242.,   90168.,   102094.,  114020.,  125946.,
      137872.,  149798.,  161724.,  173650.,  8501.,    23802.,   39103.,
      54404.,   69705.,   85006.,   100307.,  115608.,  130909.,  146210.,
      161511.,  176812.,  192113.,  207414.,  222715.,  10316.,   28992.,
      47668.,   66344.,   85020.,   103696.,  122372.,  141048.,  159724.,
      178400.,  197076.,  215752.,  234428.,  253104.,  271780.,  12131.,
      34182.,   56233.,   78284.,   100335.,  122386.,  144437.,  166488.,
      188539.,  210590.,  232641.,  254692.,  276743.,  298794.,  320845.,
      13946.,   39372.,   64798.,   90224.,   115650.,  141076.,  166502.,
      191928.,  217354.,  242780.,  268206.,  293632.,  319058.,  344484.,
      369910.,  15761.,   44562.,   73363.,   102164.,  130965.,  159766.,
      188567.,  217368.,  246169.,  274970.,  303771.,  332572.,  361373.,
      390174.,  418975.,  17576.,   49752.,   81928.,   114104.,  146280.,
      178456.,  210632.,  242808.,  274984.,  307160.,  339336.,  371512.,
      403688.,  435864.,  468040.,  19391.,   54942.,   90493.,   126044.,
      161595.,  197146.,  232697.,  268248.,  303799.,  339350.,  374901.,
      410452.,  446003.,  481554.,  517105.,  21206.,   60132.,   99058.,
      137984.,  176910.,  215836.,  254762.,  293688.,  332614.,  371540.,
      410466.,  449392.,  488318.,  527244.,  566170.,  23021.,   65322.,
      107623.,  149924.,  192225.,  234526.,  276827.,  319128.,  361429.,
      403730.,  446031.,  488332.,  530633.,  572934.,  615235.,  24836.,
      70512.,   116188.,  161864.,  207540.,  253216.,  298892.,  344568.,
      390244.,  435920.,  481596.,  527272.,  572948.,  618624.,  664300.,
      26651.,   75702.,   124753.,  173804.,  222855.,  271906.,  320957.,
      370008.,  419059.,  468110.,  517161.,  566212.,  615263.,  664314.,
      713365.,  814841.,  867267.,  919693.,  972119.,  1024545., 1076971.,
      1129397., 1181823., 1234249., 1286675., 1339101., 1391527., 1443953.,
      1496379., 1548805., 867281.,  923082.,  978883.,  1034684., 1090485.,
      1146286., 1202087., 1257888., 1313689., 1369490., 1425291., 1481092.,
      1536893., 1592694., 1648495., 919721.,  978897.,  1038073., 1097249.,
      1156425., 1215601., 1274777., 1333953., 1393129., 1452305., 1511481.,
      1570657., 1629833., 1689009., 1748185., 972161.,  1034712., 1097263.,
      1159814., 1222365., 1284916., 1347467., 1410018., 1472569., 1535120.,
      1597671., 1660222., 1722773., 1785324., 1847875., 1024601., 1090527.,
      1156453., 1222379., 1288305., 1354231., 1420157., 1486083., 1552009.,
      1617935., 1683861., 1749787., 1815713., 1881639., 1947565., 1077041.,
      1146342., 1215643., 1284944., 1354245., 1423546., 1492847., 1562148.,
      1631449., 1700750., 1770051., 1839352., 1908653., 1977954., 2047255.,
      1129481., 1202157., 1274833., 1347509., 1420185., 1492861., 1565537.,
      1638213., 1710889., 1783565., 1856241., 1928917., 2001593., 2074269.,
      2146945., 1181921., 1257972., 1334023., 1410074., 1486125., 1562176.,
      1638227., 1714278., 1790329., 1866380., 1942431., 2018482., 2094533.,
      2170584., 2246635., 1234361., 1313787., 1393213., 1472639., 1552065.,
      1631491., 1710917., 1790343., 1869769., 1949195., 2028621., 2108047.,
      2187473., 2266899., 2346325., 1286801., 1369602., 1452403., 1535204.,
      1618005., 1700806., 1783607., 1866408., 1949209., 2032010., 2114811.,
      2197612., 2280413., 2363214., 2446015., 1339241., 1425417., 1511593.,
      1597769., 1683945., 1770121., 1856297., 1942473., 2028649., 2114825.,
      2201001., 2287177., 2373353., 2459529., 2545705., 1391681., 1481232.,
      1570783., 1660334., 1749885., 1839436., 1928987., 2018538., 2108089.,
      2197640., 2287191., 2376742., 2466293., 2555844., 2645395., 1444121.,
      1537047., 1629973., 1722899., 1815825., 1908751., 2001677., 2094603.,
      2187529., 2280455., 2373381., 2466307., 2559233., 2652159., 2745085.,
      1496561., 1592862., 1689163., 1785464., 1881765., 1978066., 2074367.,
      2170668., 2266969., 2363270., 2459571., 2555872., 2652173., 2748474.,
      2844775., 1549001., 1648677., 1748353., 1848029., 1947705., 2047381.,
      2147057., 2246733., 2346409., 2446085., 2545761., 2645437., 2745113.,
      2844789., 2944465., 3147191., 3250242., 3353293., 3456344., 3559395.,
      3662446., 3765497., 3868548., 3971599., 4074650., 4177701., 4280752.,
      4383803., 4486854., 4589905., 3250256., 3356682., 3463108., 3569534.,
      3675960., 3782386., 3888812., 3995238., 4101664., 4208090., 4314516.,
      4420942., 4527368., 4633794., 4740220., 3353321., 3463122., 3572923.,
      3682724., 3792525., 3902326., 4012127., 4121928., 4231729., 4341530.,
      4451331., 4561132., 4670933., 4780734., 4890535., 3456386., 3569562.,
      3682738., 3795914., 3909090., 4022266., 4135442., 4248618., 4361794.,
      4474970., 4588146., 4701322., 4814498., 4927674., 5040850., 3559451.,
      3676002., 3792553., 3909104., 4025655., 4142206., 4258757., 4375308.,
      4491859., 4608410., 4724961., 4841512., 4958063., 5074614., 5191165.,
      3662516., 3782442., 3902368., 4022294., 4142220., 4262146., 4382072.,
      4501998., 4621924., 4741850., 4861776., 4981702., 5101628., 5221554.,
      5341480., 3765581., 3888882., 4012183., 4135484., 4258785., 4382086.,
      4505387., 4628688., 4751989., 4875290., 4998591., 5121892., 5245193.,
      5368494., 5491795., 3868646., 3995322., 4121998., 4248674., 4375350.,
      4502026., 4628702., 4755378., 4882054., 5008730., 5135406., 5262082.,
      5388758., 5515434., 5642110., 3971711., 4101762., 4231813., 4361864.,
      4491915., 4621966., 4752017., 4882068., 5012119., 5142170., 5272221.,
      5402272., 5532323., 5662374., 5792425., 4074776., 4208202., 4341628.,
      4475054., 4608480., 4741906., 4875332., 5008758., 5142184., 5275610.,
      5409036., 5542462., 5675888., 5809314., 5942740., 4177841., 4314642.,
      4451443., 4588244., 4725045., 4861846., 4998647., 5135448., 5272249.,
      5409050., 5545851., 5682652., 5819453., 5956254., 6093055., 4280906.,
      4421082., 4561258., 4701434., 4841610., 4981786., 5121962., 5262138.,
      5402314., 5542490., 5682666., 5822842., 5963018., 6103194., 6243370.,
      4383971., 4527522., 4671073., 4814624., 4958175., 5101726., 5245277.,
      5388828., 5532379., 5675930., 5819481., 5963032., 6106583., 6250134.,
      6393685., 4487036., 4633962., 4780888., 4927814., 5074740., 5221666.,
      5368592., 5515518., 5662444., 5809370., 5956296., 6103222., 6250148.,
      6397074., 6544000., 4590101., 4740402., 4890703., 5041004., 5191305.,
      5341606., 5491907., 5642208., 5792509., 5942810., 6093111., 6243412.,
      6393713., 6544014., 6694315.};
  const int batches = 3;
  const int m = 15;
  const int k = 15;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK15xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   28256.,   3057.,    8233.,    13409.,   18585.,   23761.,
      28937.,   34113.,   39289.,   44465.,   49641.,   54817.,   59993.,
      65169.,   70345.,   75521.,   80697.,   4873.,    13424.,   21975.,
      30526.,   39077.,   47628.,   56179.,   64730.,   73281.,   81832.,
      90383.,   98934.,   107485.,  116036.,  124587.,  133138.,  6689.,
      18615.,   30541.,   42467.,   54393.,   66319.,   78245.,   90171.,
      102097.,  114023.,  125949.,  137875.,  149801.,  161727.,  173653.,
      185579.,  8505.,    23806.,   39107.,   54408.,   69709.,   85010.,
      100311.,  115612.,  130913.,  146214.,  161515.,  176816.,  192117.,
      207418.,  222719.,  238020.,  10321.,   28997.,   47673.,   66349.,
      85025.,   103701.,  122377.,  141053.,  159729.,  178405.,  197081.,
      215757.,  234433.,  253109.,  271785.,  290461.,  12137.,   34188.,
      56239.,   78290.,   100341.,  122392.,  144443.,  166494.,  188545.,
      210596.,  232647.,  254698.,  276749.,  298800.,  320851.,  342902.,
      13953.,   39379.,   64805.,   90231.,   115657.,  141083.,  166509.,
      191935.,  217361.,  242787.,  268213.,  293639.,  319065.,  344491.,
      369917.,  395343.,  15769.,   44570.,   73371.,   102172.,  130973.,
      159774.,  188575.,  217376.,  246177.,  274978.,  303779.,  332580.,
      361381.,  390182.,  418983.,  447784.,  17585.,   49761.,   81937.,
      114113.,  146289.,  178465.,  210641.,  242817.,  274993.,  307169.,
      339345.,  371521.,  403697.,  435873.,  468049.,  500225.,  19401.,
      54952.,   90503.,   126054.,  161605.,  197156.,  232707.,  268258.,
      303809.,  339360.,  374911.,  410462.,  446013.,  481564.,  517115.,
      552666.,  21217.,   60143.,   99069.,   137995.,  176921.,  215847.,
      254773.,  293699.,  332625.,  371551.,  410477.,  449403.,  488329.,
      527255.,  566181.,  605107.,  23033.,   65334.,   107635.,  149936.,
      192237.,  234538.,  276839.,  319140.,  361441.,  403742.,  446043.,
      488344.,  530645.,  572946.,  615247.,  657548.,  24849.,   70525.,
      116201.,  161877.,  207553.,  253229.,  298905.,  344581.,  390257.,
      435933.,  481609.,  527285.,  572961.,  618637.,  664313.,  709989.,
      26665.,   75716.,   124767.,  173818.,  222869.,  271920.,  320971.,
      370022.,  419073.,  468124.,  517175.,  566226.,  615277.,  664328.,
      713379.,  762430.,  867281.,  919707.,  972133.,  1024559., 1076985.,
      1129411., 1181837., 1234263., 1286689., 1339115., 1391541., 1443967.,
      1496393., 1548819., 1601245., 1653671., 923097.,  978898.,  1034699.,
      1090500., 1146301., 1202102., 1257903., 1313704., 1369505., 1425306.,
      1481107., 1536908., 1592709., 1648510., 1704311., 1760112., 978913.,
      1038089., 1097265., 1156441., 1215617., 1274793., 1333969., 1393145.,
      1452321., 1511497., 1570673., 1629849., 1689025., 1748201., 1807377.,
      1866553., 1034729., 1097280., 1159831., 1222382., 1284933., 1347484.,
      1410035., 1472586., 1535137., 1597688., 1660239., 1722790., 1785341.,
      1847892., 1910443., 1972994., 1090545., 1156471., 1222397., 1288323.,
      1354249., 1420175., 1486101., 1552027., 1617953., 1683879., 1749805.,
      1815731., 1881657., 1947583., 2013509., 2079435., 1146361., 1215662.,
      1284963., 1354264., 1423565., 1492866., 1562167., 1631468., 1700769.,
      1770070., 1839371., 1908672., 1977973., 2047274., 2116575., 2185876.,
      1202177., 1274853., 1347529., 1420205., 1492881., 1565557., 1638233.,
      1710909., 1783585., 1856261., 1928937., 2001613., 2074289., 2146965.,
      2219641., 2292317., 1257993., 1334044., 1410095., 1486146., 1562197.,
      1638248., 1714299., 1790350., 1866401., 1942452., 2018503., 2094554.,
      2170605., 2246656., 2322707., 2398758., 1313809., 1393235., 1472661.,
      1552087., 1631513., 1710939., 1790365., 1869791., 1949217., 2028643.,
      2108069., 2187495., 2266921., 2346347., 2425773., 2505199., 1369625.,
      1452426., 1535227., 1618028., 1700829., 1783630., 1866431., 1949232.,
      2032033., 2114834., 2197635., 2280436., 2363237., 2446038., 2528839.,
      2611640., 1425441., 1511617., 1597793., 1683969., 1770145., 1856321.,
      1942497., 2028673., 2114849., 2201025., 2287201., 2373377., 2459553.,
      2545729., 2631905., 2718081., 1481257., 1570808., 1660359., 1749910.,
      1839461., 1929012., 2018563., 2108114., 2197665., 2287216., 2376767.,
      2466318., 2555869., 2645420., 2734971., 2824522., 1537073., 1629999.,
      1722925., 1815851., 1908777., 2001703., 2094629., 2187555., 2280481.,
      2373407., 2466333., 2559259., 2652185., 2745111., 2838037., 2930963.,
      1592889., 1689190., 1785491., 1881792., 1978093., 2074394., 2170695.,
      2266996., 2363297., 2459598., 2555899., 2652200., 2748501., 2844802.,
      2941103., 3037404., 1648705., 1748381., 1848057., 1947733., 2047409.,
      2147085., 2246761., 2346437., 2446113., 2545789., 2645465., 2745141.,
      2844817., 2944493., 3044169., 3143845., 3353321., 3456372., 3559423.,
      3662474., 3765525., 3868576., 3971627., 4074678., 4177729., 4280780.,
      4383831., 4486882., 4589933., 4692984., 4796035., 4899086., 3463137.,
      3569563., 3675989., 3782415., 3888841., 3995267., 4101693., 4208119.,
      4314545., 4420971., 4527397., 4633823., 4740249., 4846675., 4953101.,
      5059527., 3572953., 3682754., 3792555., 3902356., 4012157., 4121958.,
      4231759., 4341560., 4451361., 4561162., 4670963., 4780764., 4890565.,
      5000366., 5110167., 5219968., 3682769., 3795945., 3909121., 4022297.,
      4135473., 4248649., 4361825., 4475001., 4588177., 4701353., 4814529.,
      4927705., 5040881., 5154057., 5267233., 5380409., 3792585., 3909136.,
      4025687., 4142238., 4258789., 4375340., 4491891., 4608442., 4724993.,
      4841544., 4958095., 5074646., 5191197., 5307748., 5424299., 5540850.,
      3902401., 4022327., 4142253., 4262179., 4382105., 4502031., 4621957.,
      4741883., 4861809., 4981735., 5101661., 5221587., 5341513., 5461439.,
      5581365., 5701291., 4012217., 4135518., 4258819., 4382120., 4505421.,
      4628722., 4752023., 4875324., 4998625., 5121926., 5245227., 5368528.,
      5491829., 5615130., 5738431., 5861732., 4122033., 4248709., 4375385.,
      4502061., 4628737., 4755413., 4882089., 5008765., 5135441., 5262117.,
      5388793., 5515469., 5642145., 5768821., 5895497., 6022173., 4231849.,
      4361900., 4491951., 4622002., 4752053., 4882104., 5012155., 5142206.,
      5272257., 5402308., 5532359., 5662410., 5792461., 5922512., 6052563.,
      6182614., 4341665., 4475091., 4608517., 4741943., 4875369., 5008795.,
      5142221., 5275647., 5409073., 5542499., 5675925., 5809351., 5942777.,
      6076203., 6209629., 6343055., 4451481., 4588282., 4725083., 4861884.,
      4998685., 5135486., 5272287., 5409088., 5545889., 5682690., 5819491.,
      5956292., 6093093., 6229894., 6366695., 6503496., 4561297., 4701473.,
      4841649., 4981825., 5122001., 5262177., 5402353., 5542529., 5682705.,
      5822881., 5963057., 6103233., 6243409., 6383585., 6523761., 6663937.,
      4671113., 4814664., 4958215., 5101766., 5245317., 5388868., 5532419.,
      5675970., 5819521., 5963072., 6106623., 6250174., 6393725., 6537276.,
      6680827., 6824378., 4780929., 4927855., 5074781., 5221707., 5368633.,
      5515559., 5662485., 5809411., 5956337., 6103263., 6250189., 6397115.,
      6544041., 6690967., 6837893., 6984819., 4890745., 5041046., 5191347.,
      5341648., 5491949., 5642250., 5792551., 5942852., 6093153., 6243454.,
      6393755., 6544056., 6694357., 6844658., 6994959., 7145260.};
  const int batches = 3;
  const int m = 15;
  const int k = 15;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK16xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      3687.,    9960.,    16233.,   22506.,   28779.,   35052.,   41325.,
      47598.,   53871.,   60144.,   66417.,   72690.,   78963.,   85236.,
      5877.,    16246.,   26615.,   36984.,   47353.,   57722.,   68091.,
      78460.,   88829.,   99198.,   109567.,  119936.,  130305.,  140674.,
      8067.,    22532.,   36997.,   51462.,   65927.,   80392.,   94857.,
      109322.,  123787.,  138252.,  152717.,  167182.,  181647.,  196112.,
      10257.,   28818.,   47379.,   65940.,   84501.,   103062.,  121623.,
      140184.,  158745.,  177306.,  195867.,  214428.,  232989.,  251550.,
      12447.,   35104.,   57761.,   80418.,   103075.,  125732.,  148389.,
      171046.,  193703.,  216360.,  239017.,  261674.,  284331.,  306988.,
      14637.,   41390.,   68143.,   94896.,   121649.,  148402.,  175155.,
      201908.,  228661.,  255414.,  282167.,  308920.,  335673.,  362426.,
      16827.,   47676.,   78525.,   109374.,  140223.,  171072.,  201921.,
      232770.,  263619.,  294468.,  325317.,  356166.,  387015.,  417864.,
      19017.,   53962.,   88907.,   123852.,  158797.,  193742.,  228687.,
      263632.,  298577.,  333522.,  368467.,  403412.,  438357.,  473302.,
      21207.,   60248.,   99289.,   138330.,  177371.,  216412.,  255453.,
      294494.,  333535.,  372576.,  411617.,  450658.,  489699.,  528740.,
      23397.,   66534.,   109671.,  152808.,  195945.,  239082.,  282219.,
      325356.,  368493.,  411630.,  454767.,  497904.,  541041.,  584178.,
      25587.,   72820.,   120053.,  167286.,  214519.,  261752.,  308985.,
      356218.,  403451.,  450684.,  497917.,  545150.,  592383.,  639616.,
      27777.,   79106.,   130435.,  181764.,  233093.,  284422.,  335751.,
      387080.,  438409.,  489738.,  541067.,  592396.,  643725.,  695054.,
      29967.,   85392.,   140817.,  196242.,  251667.,  307092.,  362517.,
      417942.,  473367.,  528792.,  584217.,  639642.,  695067.,  750492.,
      32157.,   91678.,   151199.,  210720.,  270241.,  329762.,  389283.,
      448804.,  508325.,  567846.,  627367.,  686888.,  746409.,  805930.,
      924971.,  988588.,  1052205., 1115822., 1179439., 1243056., 1306673.,
      1370290., 1433907., 1497524., 1561141., 1624758., 1688375., 1751992.,
      984505.,  1052218., 1119931., 1187644., 1255357., 1323070., 1390783.,
      1458496., 1526209., 1593922., 1661635., 1729348., 1797061., 1864774.,
      1044039., 1115848., 1187657., 1259466., 1331275., 1403084., 1474893.,
      1546702., 1618511., 1690320., 1762129., 1833938., 1905747., 1977556.,
      1103573., 1179478., 1255383., 1331288., 1407193., 1483098., 1559003.,
      1634908., 1710813., 1786718., 1862623., 1938528., 2014433., 2090338.,
      1163107., 1243108., 1323109., 1403110., 1483111., 1563112., 1643113.,
      1723114., 1803115., 1883116., 1963117., 2043118., 2123119., 2203120.,
      1222641., 1306738., 1390835., 1474932., 1559029., 1643126., 1727223.,
      1811320., 1895417., 1979514., 2063611., 2147708., 2231805., 2315902.,
      1282175., 1370368., 1458561., 1546754., 1634947., 1723140., 1811333.,
      1899526., 1987719., 2075912., 2164105., 2252298., 2340491., 2428684.,
      1341709., 1433998., 1526287., 1618576., 1710865., 1803154., 1895443.,
      1987732., 2080021., 2172310., 2264599., 2356888., 2449177., 2541466.,
      1401243., 1497628., 1594013., 1690398., 1786783., 1883168., 1979553.,
      2075938., 2172323., 2268708., 2365093., 2461478., 2557863., 2654248.,
      1460777., 1561258., 1661739., 1762220., 1862701., 1963182., 2063663.,
      2164144., 2264625., 2365106., 2465587., 2566068., 2666549., 2767030.,
      1520311., 1624888., 1729465., 1834042., 1938619., 2043196., 2147773.,
      2252350., 2356927., 2461504., 2566081., 2670658., 2775235., 2879812.,
      1579845., 1688518., 1797191., 1905864., 2014537., 2123210., 2231883.,
      2340556., 2449229., 2557902., 2666575., 2775248., 2883921., 2992594.,
      1639379., 1752148., 1864917., 1977686., 2090455., 2203224., 2315993.,
      2428762., 2541531., 2654300., 2767069., 2879838., 2992607., 3105376.,
      1698913., 1815778., 1932643., 2049508., 2166373., 2283238., 2400103.,
      2516968., 2633833., 2750698., 2867563., 2984428., 3101293., 3218158.,
      1758447., 1879408., 2000369., 2121330., 2242291., 2363252., 2484213.,
      2605174., 2726135., 2847096., 2968057., 3089018., 3209979., 3330940.,
      3568765., 3693822., 3818879., 3943936., 4068993., 4194050., 4319107.,
      4444164., 4569221., 4694278., 4819335., 4944392., 5069449., 5194506.,
      3685643., 3814796., 3943949., 4073102., 4202255., 4331408., 4460561.,
      4589714., 4718867., 4848020., 4977173., 5106326., 5235479., 5364632.,
      3802521., 3935770., 4069019., 4202268., 4335517., 4468766., 4602015.,
      4735264., 4868513., 5001762., 5135011., 5268260., 5401509., 5534758.,
      3919399., 4056744., 4194089., 4331434., 4468779., 4606124., 4743469.,
      4880814., 5018159., 5155504., 5292849., 5430194., 5567539., 5704884.,
      4036277., 4177718., 4319159., 4460600., 4602041., 4743482., 4884923.,
      5026364., 5167805., 5309246., 5450687., 5592128., 5733569., 5875010.,
      4153155., 4298692., 4444229., 4589766., 4735303., 4880840., 5026377.,
      5171914., 5317451., 5462988., 5608525., 5754062., 5899599., 6045136.,
      4270033., 4419666., 4569299., 4718932., 4868565., 5018198., 5167831.,
      5317464., 5467097., 5616730., 5766363., 5915996., 6065629., 6215262.,
      4386911., 4540640., 4694369., 4848098., 5001827., 5155556., 5309285.,
      5463014., 5616743., 5770472., 5924201., 6077930., 6231659., 6385388.,
      4503789., 4661614., 4819439., 4977264., 5135089., 5292914., 5450739.,
      5608564., 5766389., 5924214., 6082039., 6239864., 6397689., 6555514.,
      4620667., 4782588., 4944509., 5106430., 5268351., 5430272., 5592193.,
      5754114., 5916035., 6077956., 6239877., 6401798., 6563719., 6725640.,
      4737545., 4903562., 5069579., 5235596., 5401613., 5567630., 5733647.,
      5899664., 6065681., 6231698., 6397715., 6563732., 6729749., 6895766.,
      4854423., 5024536., 5194649., 5364762., 5534875., 5704988., 5875101.,
      6045214., 6215327., 6385440., 6555553., 6725666., 6895779., 7065892.,
      4971301., 5145510., 5319719., 5493928., 5668137., 5842346., 6016555.,
      6190764., 6364973., 6539182., 6713391., 6887600., 7061809., 7236018.,
      5088179., 5266484., 5444789., 5623094., 5801399., 5979704., 6158009.,
      6336314., 6514619., 6692924., 6871229., 7049534., 7227839., 7406144.,
      5205057., 5387458., 5569859., 5752260., 5934661., 6117062., 6299463.,
      6481864., 6664265., 6846666., 7029067., 7211468., 7393869., 7576270.};
  const int batches = 3;
  const int m = 15;
  const int k = 16;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK16xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   3688.,    9961.,    16234.,   22507.,   28780.,   35053.,
      41326.,   47599.,   53872.,   60145.,   66418.,   72691.,   78964.,
      85237.,   91510.,   5879.,    16248.,   26617.,   36986.,   47355.,
      57724.,   68093.,   78462.,   88831.,   99200.,   109569.,  119938.,
      130307.,  140676.,  151045.,  8070.,    22535.,   37000.,   51465.,
      65930.,   80395.,   94860.,   109325.,  123790.,  138255.,  152720.,
      167185.,  181650.,  196115.,  210580.,  10261.,   28822.,   47383.,
      65944.,   84505.,   103066.,  121627.,  140188.,  158749.,  177310.,
      195871.,  214432.,  232993.,  251554.,  270115.,  12452.,   35109.,
      57766.,   80423.,   103080.,  125737.,  148394.,  171051.,  193708.,
      216365.,  239022.,  261679.,  284336.,  306993.,  329650.,  14643.,
      41396.,   68149.,   94902.,   121655.,  148408.,  175161.,  201914.,
      228667.,  255420.,  282173.,  308926.,  335679.,  362432.,  389185.,
      16834.,   47683.,   78532.,   109381.,  140230.,  171079.,  201928.,
      232777.,  263626.,  294475.,  325324.,  356173.,  387022.,  417871.,
      448720.,  19025.,   53970.,   88915.,   123860.,  158805.,  193750.,
      228695.,  263640.,  298585.,  333530.,  368475.,  403420.,  438365.,
      473310.,  508255.,  21216.,   60257.,   99298.,   138339.,  177380.,
      216421.,  255462.,  294503.,  333544.,  372585.,  411626.,  450667.,
      489708.,  528749.,  567790.,  23407.,   66544.,   109681.,  152818.,
      195955.,  239092.,  282229.,  325366.,  368503.,  411640.,  454777.,
      497914.,  541051.,  584188.,  627325.,  25598.,   72831.,   120064.,
      167297.,  214530.,  261763.,  308996.,  356229.,  403462.,  450695.,
      497928.,  545161.,  592394.,  639627.,  686860.,  27789.,   79118.,
      130447.,  181776.,  233105.,  284434.,  335763.,  387092.,  438421.,
      489750.,  541079.,  592408.,  643737.,  695066.,  746395.,  29980.,
      85405.,   140830.,  196255.,  251680.,  307105.,  362530.,  417955.,
      473380.,  528805.,  584230.,  639655.,  695080.,  750505.,  805930.,
      32171.,   91692.,   151213.,  210734.,  270255.,  329776.,  389297.,
      448818.,  508339.,  567860.,  627381.,  686902.,  746423.,  805944.,
      865465.,  988602.,  1052219., 1115836., 1179453., 1243070., 1306687.,
      1370304., 1433921., 1497538., 1561155., 1624772., 1688389., 1752006.,
      1815623., 1879240., 1052233., 1119946., 1187659., 1255372., 1323085.,
      1390798., 1458511., 1526224., 1593937., 1661650., 1729363., 1797076.,
      1864789., 1932502., 2000215., 1115864., 1187673., 1259482., 1331291.,
      1403100., 1474909., 1546718., 1618527., 1690336., 1762145., 1833954.,
      1905763., 1977572., 2049381., 2121190., 1179495., 1255400., 1331305.,
      1407210., 1483115., 1559020., 1634925., 1710830., 1786735., 1862640.,
      1938545., 2014450., 2090355., 2166260., 2242165., 1243126., 1323127.,
      1403128., 1483129., 1563130., 1643131., 1723132., 1803133., 1883134.,
      1963135., 2043136., 2123137., 2203138., 2283139., 2363140., 1306757.,
      1390854., 1474951., 1559048., 1643145., 1727242., 1811339., 1895436.,
      1979533., 2063630., 2147727., 2231824., 2315921., 2400018., 2484115.,
      1370388., 1458581., 1546774., 1634967., 1723160., 1811353., 1899546.,
      1987739., 2075932., 2164125., 2252318., 2340511., 2428704., 2516897.,
      2605090., 1434019., 1526308., 1618597., 1710886., 1803175., 1895464.,
      1987753., 2080042., 2172331., 2264620., 2356909., 2449198., 2541487.,
      2633776., 2726065., 1497650., 1594035., 1690420., 1786805., 1883190.,
      1979575., 2075960., 2172345., 2268730., 2365115., 2461500., 2557885.,
      2654270., 2750655., 2847040., 1561281., 1661762., 1762243., 1862724.,
      1963205., 2063686., 2164167., 2264648., 2365129., 2465610., 2566091.,
      2666572., 2767053., 2867534., 2968015., 1624912., 1729489., 1834066.,
      1938643., 2043220., 2147797., 2252374., 2356951., 2461528., 2566105.,
      2670682., 2775259., 2879836., 2984413., 3088990., 1688543., 1797216.,
      1905889., 2014562., 2123235., 2231908., 2340581., 2449254., 2557927.,
      2666600., 2775273., 2883946., 2992619., 3101292., 3209965., 1752174.,
      1864943., 1977712., 2090481., 2203250., 2316019., 2428788., 2541557.,
      2654326., 2767095., 2879864., 2992633., 3105402., 3218171., 3330940.,
      1815805., 1932670., 2049535., 2166400., 2283265., 2400130., 2516995.,
      2633860., 2750725., 2867590., 2984455., 3101320., 3218185., 3335050.,
      3451915., 1879436., 2000397., 2121358., 2242319., 2363280., 2484241.,
      2605202., 2726163., 2847124., 2968085., 3089046., 3210007., 3330968.,
      3451929., 3572890., 3818907., 3943964., 4069021., 4194078., 4319135.,
      4444192., 4569249., 4694306., 4819363., 4944420., 5069477., 5194534.,
      5319591., 5444648., 5569705., 3943978., 4073131., 4202284., 4331437.,
      4460590., 4589743., 4718896., 4848049., 4977202., 5106355., 5235508.,
      5364661., 5493814., 5622967., 5752120., 4069049., 4202298., 4335547.,
      4468796., 4602045., 4735294., 4868543., 5001792., 5135041., 5268290.,
      5401539., 5534788., 5668037., 5801286., 5934535., 4194120., 4331465.,
      4468810., 4606155., 4743500., 4880845., 5018190., 5155535., 5292880.,
      5430225., 5567570., 5704915., 5842260., 5979605., 6116950., 4319191.,
      4460632., 4602073., 4743514., 4884955., 5026396., 5167837., 5309278.,
      5450719., 5592160., 5733601., 5875042., 6016483., 6157924., 6299365.,
      4444262., 4589799., 4735336., 4880873., 5026410., 5171947., 5317484.,
      5463021., 5608558., 5754095., 5899632., 6045169., 6190706., 6336243.,
      6481780., 4569333., 4718966., 4868599., 5018232., 5167865., 5317498.,
      5467131., 5616764., 5766397., 5916030., 6065663., 6215296., 6364929.,
      6514562., 6664195., 4694404., 4848133., 5001862., 5155591., 5309320.,
      5463049., 5616778., 5770507., 5924236., 6077965., 6231694., 6385423.,
      6539152., 6692881., 6846610., 4819475., 4977300., 5135125., 5292950.,
      5450775., 5608600., 5766425., 5924250., 6082075., 6239900., 6397725.,
      6555550., 6713375., 6871200., 7029025., 4944546., 5106467., 5268388.,
      5430309., 5592230., 5754151., 5916072., 6077993., 6239914., 6401835.,
      6563756., 6725677., 6887598., 7049519., 7211440., 5069617., 5235634.,
      5401651., 5567668., 5733685., 5899702., 6065719., 6231736., 6397753.,
      6563770., 6729787., 6895804., 7061821., 7227838., 7393855., 5194688.,
      5364801., 5534914., 5705027., 5875140., 6045253., 6215366., 6385479.,
      6555592., 6725705., 6895818., 7065931., 7236044., 7406157., 7576270.,
      5319759., 5493968., 5668177., 5842386., 6016595., 6190804., 6365013.,
      6539222., 6713431., 6887640., 7061849., 7236058., 7410267., 7584476.,
      7758685., 5444830., 5623135., 5801440., 5979745., 6158050., 6336355.,
      6514660., 6692965., 6871270., 7049575., 7227880., 7406185., 7584490.,
      7762795., 7941100., 5569901., 5752302., 5934703., 6117104., 6299505.,
      6481906., 6664307., 6846708., 7029109., 7211510., 7393911., 7576312.,
      7758713., 7941114., 8123515.};
  const int batches = 3;
  const int m = 15;
  const int k = 16;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M15xK16xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   34152.,   3689.,    9962.,    16235.,   22508.,   28781.,
      35054.,   41327.,   47600.,   53873.,   60146.,   66419.,   72692.,
      78965.,   85238.,   91511.,   97784.,   5881.,    16250.,   26619.,
      36988.,   47357.,   57726.,   68095.,   78464.,   88833.,   99202.,
      109571.,  119940.,  130309.,  140678.,  151047.,  161416.,  8073.,
      22538.,   37003.,   51468.,   65933.,   80398.,   94863.,   109328.,
      123793.,  138258.,  152723.,  167188.,  181653.,  196118.,  210583.,
      225048.,  10265.,   28826.,   47387.,   65948.,   84509.,   103070.,
      121631.,  140192.,  158753.,  177314.,  195875.,  214436.,  232997.,
      251558.,  270119.,  288680.,  12457.,   35114.,   57771.,   80428.,
      103085.,  125742.,  148399.,  171056.,  193713.,  216370.,  239027.,
      261684.,  284341.,  306998.,  329655.,  352312.,  14649.,   41402.,
      68155.,   94908.,   121661.,  148414.,  175167.,  201920.,  228673.,
      255426.,  282179.,  308932.,  335685.,  362438.,  389191.,  415944.,
      16841.,   47690.,   78539.,   109388.,  140237.,  171086.,  201935.,
      232784.,  263633.,  294482.,  325331.,  356180.,  387029.,  417878.,
      448727.,  479576.,  19033.,   53978.,   88923.,   123868.,  158813.,
      193758.,  228703.,  263648.,  298593.,  333538.,  368483.,  403428.,
      438373.,  473318.,  508263.,  543208.,  21225.,   60266.,   99307.,
      138348.,  177389.,  216430.,  255471.,  294512.,  333553.,  372594.,
      411635.,  450676.,  489717.,  528758.,  567799.,  606840.,  23417.,
      66554.,   109691.,  152828.,  195965.,  239102.,  282239.,  325376.,
      368513.,  411650.,  454787.,  497924.,  541061.,  584198.,  627335.,
      670472.,  25609.,   72842.,   120075.,  167308.,  214541.,  261774.,
      309007.,  356240.,  403473.,  450706.,  497939.,  545172.,  592405.,
      639638.,  686871.,  734104.,  27801.,   79130.,   130459.,  181788.,
      233117.,  284446.,  335775.,  387104.,  438433.,  489762.,  541091.,
      592420.,  643749.,  695078.,  746407.,  797736.,  29993.,   85418.,
      140843.,  196268.,  251693.,  307118.,  362543.,  417968.,  473393.,
      528818.,  584243.,  639668.,  695093.,  750518.,  805943.,  861368.,
      32185.,   91706.,   151227.,  210748.,  270269.,  329790.,  389311.,
      448832.,  508353.,  567874.,  627395.,  686916.,  746437.,  805958.,
      865479.,  925000.,  1052233., 1115850., 1179467., 1243084., 1306701.,
      1370318., 1433935., 1497552., 1561169., 1624786., 1688403., 1752020.,
      1815637., 1879254., 1942871., 2006488., 1119961., 1187674., 1255387.,
      1323100., 1390813., 1458526., 1526239., 1593952., 1661665., 1729378.,
      1797091., 1864804., 1932517., 2000230., 2067943., 2135656., 1187689.,
      1259498., 1331307., 1403116., 1474925., 1546734., 1618543., 1690352.,
      1762161., 1833970., 1905779., 1977588., 2049397., 2121206., 2193015.,
      2264824., 1255417., 1331322., 1407227., 1483132., 1559037., 1634942.,
      1710847., 1786752., 1862657., 1938562., 2014467., 2090372., 2166277.,
      2242182., 2318087., 2393992., 1323145., 1403146., 1483147., 1563148.,
      1643149., 1723150., 1803151., 1883152., 1963153., 2043154., 2123155.,
      2203156., 2283157., 2363158., 2443159., 2523160., 1390873., 1474970.,
      1559067., 1643164., 1727261., 1811358., 1895455., 1979552., 2063649.,
      2147746., 2231843., 2315940., 2400037., 2484134., 2568231., 2652328.,
      1458601., 1546794., 1634987., 1723180., 1811373., 1899566., 1987759.,
      2075952., 2164145., 2252338., 2340531., 2428724., 2516917., 2605110.,
      2693303., 2781496., 1526329., 1618618., 1710907., 1803196., 1895485.,
      1987774., 2080063., 2172352., 2264641., 2356930., 2449219., 2541508.,
      2633797., 2726086., 2818375., 2910664., 1594057., 1690442., 1786827.,
      1883212., 1979597., 2075982., 2172367., 2268752., 2365137., 2461522.,
      2557907., 2654292., 2750677., 2847062., 2943447., 3039832., 1661785.,
      1762266., 1862747., 1963228., 2063709., 2164190., 2264671., 2365152.,
      2465633., 2566114., 2666595., 2767076., 2867557., 2968038., 3068519.,
      3169000., 1729513., 1834090., 1938667., 2043244., 2147821., 2252398.,
      2356975., 2461552., 2566129., 2670706., 2775283., 2879860., 2984437.,
      3089014., 3193591., 3298168., 1797241., 1905914., 2014587., 2123260.,
      2231933., 2340606., 2449279., 2557952., 2666625., 2775298., 2883971.,
      2992644., 3101317., 3209990., 3318663., 3427336., 1864969., 1977738.,
      2090507., 2203276., 2316045., 2428814., 2541583., 2654352., 2767121.,
      2879890., 2992659., 3105428., 3218197., 3330966., 3443735., 3556504.,
      1932697., 2049562., 2166427., 2283292., 2400157., 2517022., 2633887.,
      2750752., 2867617., 2984482., 3101347., 3218212., 3335077., 3451942.,
      3568807., 3685672., 2000425., 2121386., 2242347., 2363308., 2484269.,
      2605230., 2726191., 2847152., 2968113., 3089074., 3210035., 3330996.,
      3451957., 3572918., 3693879., 3814840., 4069049., 4194106., 4319163.,
      4444220., 4569277., 4694334., 4819391., 4944448., 5069505., 5194562.,
      5319619., 5444676., 5569733., 5694790., 5819847., 5944904., 4202313.,
      4331466., 4460619., 4589772., 4718925., 4848078., 4977231., 5106384.,
      5235537., 5364690., 5493843., 5622996., 5752149., 5881302., 6010455.,
      6139608., 4335577., 4468826., 4602075., 4735324., 4868573., 5001822.,
      5135071., 5268320., 5401569., 5534818., 5668067., 5801316., 5934565.,
      6067814., 6201063., 6334312., 4468841., 4606186., 4743531., 4880876.,
      5018221., 5155566., 5292911., 5430256., 5567601., 5704946., 5842291.,
      5979636., 6116981., 6254326., 6391671., 6529016., 4602105., 4743546.,
      4884987., 5026428., 5167869., 5309310., 5450751., 5592192., 5733633.,
      5875074., 6016515., 6157956., 6299397., 6440838., 6582279., 6723720.,
      4735369., 4880906., 5026443., 5171980., 5317517., 5463054., 5608591.,
      5754128., 5899665., 6045202., 6190739., 6336276., 6481813., 6627350.,
      6772887., 6918424., 4868633., 5018266., 5167899., 5317532., 5467165.,
      5616798., 5766431., 5916064., 6065697., 6215330., 6364963., 6514596.,
      6664229., 6813862., 6963495., 7113128., 5001897., 5155626., 5309355.,
      5463084., 5616813., 5770542., 5924271., 6078000., 6231729., 6385458.,
      6539187., 6692916., 6846645., 7000374., 7154103., 7307832., 5135161.,
      5292986., 5450811., 5608636., 5766461., 5924286., 6082111., 6239936.,
      6397761., 6555586., 6713411., 6871236., 7029061., 7186886., 7344711.,
      7502536., 5268425., 5430346., 5592267., 5754188., 5916109., 6078030.,
      6239951., 6401872., 6563793., 6725714., 6887635., 7049556., 7211477.,
      7373398., 7535319., 7697240., 5401689., 5567706., 5733723., 5899740.,
      6065757., 6231774., 6397791., 6563808., 6729825., 6895842., 7061859.,
      7227876., 7393893., 7559910., 7725927., 7891944., 5534953., 5705066.,
      5875179., 6045292., 6215405., 6385518., 6555631., 6725744., 6895857.,
      7065970., 7236083., 7406196., 7576309., 7746422., 7916535., 8086648.,
      5668217., 5842426., 6016635., 6190844., 6365053., 6539262., 6713471.,
      6887680., 7061889., 7236098., 7410307., 7584516., 7758725., 7932934.,
      8107143., 8281352., 5801481., 5979786., 6158091., 6336396., 6514701.,
      6693006., 6871311., 7049616., 7227921., 7406226., 7584531., 7762836.,
      7941141., 8119446., 8297751., 8476056., 5934745., 6117146., 6299547.,
      6481948., 6664349., 6846750., 7029151., 7211552., 7393953., 7576354.,
      7758755., 7941156., 8123557., 8305958., 8488359., 8670760.};
  const int batches = 3;
  const int m = 15;
  const int k = 16;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK14xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      2500.,    6715.,    10930.,   15145.,   19360.,   23575.,   27790.,
      32005.,   36220.,   40435.,   44650.,   48865.,   53080.,   57295.,
      3984.,    10943.,   17902.,   24861.,   31820.,   38779.,   45738.,
      52697.,   59656.,   66615.,   73574.,   80533.,   87492.,   94451.,
      5468.,    15171.,   24874.,   34577.,   44280.,   53983.,   63686.,
      73389.,   83092.,   92795.,   102498.,  112201.,  121904.,  131607.,
      6952.,    19399.,   31846.,   44293.,   56740.,   69187.,   81634.,
      94081.,   106528.,  118975.,  131422.,  143869.,  156316.,  168763.,
      8436.,    23627.,   38818.,   54009.,   69200.,   84391.,   99582.,
      114773.,  129964.,  145155.,  160346.,  175537.,  190728.,  205919.,
      9920.,    27855.,   45790.,   63725.,   81660.,   99595.,   117530.,
      135465.,  153400.,  171335.,  189270.,  207205.,  225140.,  243075.,
      11404.,   32083.,   52762.,   73441.,   94120.,   114799.,  135478.,
      156157.,  176836.,  197515.,  218194.,  238873.,  259552.,  280231.,
      12888.,   36311.,   59734.,   83157.,   106580.,  130003.,  153426.,
      176849.,  200272.,  223695.,  247118.,  270541.,  293964.,  317387.,
      14372.,   40539.,   66706.,   92873.,   119040.,  145207.,  171374.,
      197541.,  223708.,  249875.,  276042.,  302209.,  328376.,  354543.,
      15856.,   44767.,   73678.,   102589.,  131500.,  160411.,  189322.,
      218233.,  247144.,  276055.,  304966.,  333877.,  362788.,  391699.,
      17340.,   48995.,   80650.,   112305.,  143960.,  175615.,  207270.,
      238925.,  270580.,  302235.,  333890.,  365545.,  397200.,  428855.,
      18824.,   53223.,   87622.,   122021.,  156420.,  190819.,  225218.,
      259617.,  294016.,  328415.,  362814.,  397213.,  431612.,  466011.,
      20308.,   57451.,   94594.,   131737.,  168880.,  206023.,  243166.,
      280309.,  317452.,  354595.,  391738.,  428881.,  466024.,  503167.,
      21792.,   61679.,   101566.,  141453.,  181340.,  221227.,  261114.,
      301001.,  340888.,  380775.,  420662.,  460549.,  500436.,  540323.,
      23276.,   65907.,   108538.,  151169.,  193800.,  236431.,  279062.,
      321693.,  364324.,  406955.,  449586.,  492217.,  534848.,  577479.,
      659996.,  705371.,  750746.,  796121.,  841496.,  886871.,  932246.,
      977621.,  1022996., 1068371., 1113746., 1159121., 1204496., 1249871.,
      699896.,  748015.,  796134.,  844253.,  892372.,  940491.,  988610.,
      1036729., 1084848., 1132967., 1181086., 1229205., 1277324., 1325443.,
      739796.,  790659.,  841522.,  892385.,  943248.,  994111.,  1044974.,
      1095837., 1146700., 1197563., 1248426., 1299289., 1350152., 1401015.,
      779696.,  833303.,  886910.,  940517.,  994124.,  1047731., 1101338.,
      1154945., 1208552., 1262159., 1315766., 1369373., 1422980., 1476587.,
      819596.,  875947.,  932298.,  988649.,  1045000., 1101351., 1157702.,
      1214053., 1270404., 1326755., 1383106., 1439457., 1495808., 1552159.,
      859496.,  918591.,  977686.,  1036781., 1095876., 1154971., 1214066.,
      1273161., 1332256., 1391351., 1450446., 1509541., 1568636., 1627731.,
      899396.,  961235.,  1023074., 1084913., 1146752., 1208591., 1270430.,
      1332269., 1394108., 1455947., 1517786., 1579625., 1641464., 1703303.,
      939296.,  1003879., 1068462., 1133045., 1197628., 1262211., 1326794.,
      1391377., 1455960., 1520543., 1585126., 1649709., 1714292., 1778875.,
      979196.,  1046523., 1113850., 1181177., 1248504., 1315831., 1383158.,
      1450485., 1517812., 1585139., 1652466., 1719793., 1787120., 1854447.,
      1019096., 1089167., 1159238., 1229309., 1299380., 1369451., 1439522.,
      1509593., 1579664., 1649735., 1719806., 1789877., 1859948., 1930019.,
      1058996., 1131811., 1204626., 1277441., 1350256., 1423071., 1495886.,
      1568701., 1641516., 1714331., 1787146., 1859961., 1932776., 2005591.,
      1098896., 1174455., 1250014., 1325573., 1401132., 1476691., 1552250.,
      1627809., 1703368., 1778927., 1854486., 1930045., 2005604., 2081163.,
      1138796., 1217099., 1295402., 1373705., 1452008., 1530311., 1608614.,
      1686917., 1765220., 1843523., 1921826., 2000129., 2078432., 2156735.,
      1178696., 1259743., 1340790., 1421837., 1502884., 1583931., 1664978.,
      1746025., 1827072., 1908119., 1989166., 2070213., 2151260., 2232307.,
      1218596., 1302387., 1386178., 1469969., 1553760., 1637551., 1721342.,
      1805133., 1888924., 1972715., 2056506., 2140297., 2224088., 2307879.,
      1258496., 1345031., 1431566., 1518101., 1604636., 1691171., 1777706.,
      1864241., 1950776., 2037311., 2123846., 2210381., 2296916., 2383451.,
      2548288., 2637567., 2726846., 2816125., 2905404., 2994683., 3083962.,
      3173241., 3262520., 3351799., 3441078., 3530357., 3619636., 3708915.,
      2626604., 2718627., 2810650., 2902673., 2994696., 3086719., 3178742.,
      3270765., 3362788., 3454811., 3546834., 3638857., 3730880., 3822903.,
      2704920., 2799687., 2894454., 2989221., 3083988., 3178755., 3273522.,
      3368289., 3463056., 3557823., 3652590., 3747357., 3842124., 3936891.,
      2783236., 2880747., 2978258., 3075769., 3173280., 3270791., 3368302.,
      3465813., 3563324., 3660835., 3758346., 3855857., 3953368., 4050879.,
      2861552., 2961807., 3062062., 3162317., 3262572., 3362827., 3463082.,
      3563337., 3663592., 3763847., 3864102., 3964357., 4064612., 4164867.,
      2939868., 3042867., 3145866., 3248865., 3351864., 3454863., 3557862.,
      3660861., 3763860., 3866859., 3969858., 4072857., 4175856., 4278855.,
      3018184., 3123927., 3229670., 3335413., 3441156., 3546899., 3652642.,
      3758385., 3864128., 3969871., 4075614., 4181357., 4287100., 4392843.,
      3096500., 3204987., 3313474., 3421961., 3530448., 3638935., 3747422.,
      3855909., 3964396., 4072883., 4181370., 4289857., 4398344., 4506831.,
      3174816., 3286047., 3397278., 3508509., 3619740., 3730971., 3842202.,
      3953433., 4064664., 4175895., 4287126., 4398357., 4509588., 4620819.,
      3253132., 3367107., 3481082., 3595057., 3709032., 3823007., 3936982.,
      4050957., 4164932., 4278907., 4392882., 4506857., 4620832., 4734807.,
      3331448., 3448167., 3564886., 3681605., 3798324., 3915043., 4031762.,
      4148481., 4265200., 4381919., 4498638., 4615357., 4732076., 4848795.,
      3409764., 3529227., 3648690., 3768153., 3887616., 4007079., 4126542.,
      4246005., 4365468., 4484931., 4604394., 4723857., 4843320., 4962783.,
      3488080., 3610287., 3732494., 3854701., 3976908., 4099115., 4221322.,
      4343529., 4465736., 4587943., 4710150., 4832357., 4954564., 5076771.,
      3566396., 3691347., 3816298., 3941249., 4066200., 4191151., 4316102.,
      4441053., 4566004., 4690955., 4815906., 4940857., 5065808., 5190759.,
      3644712., 3772407., 3900102., 4027797., 4155492., 4283187., 4410882.,
      4538577., 4666272., 4793967., 4921662., 5049357., 5177052., 5304747.,
      3723028., 3853467., 3983906., 4114345., 4244784., 4375223., 4505662.,
      4636101., 4766540., 4896979., 5027418., 5157857., 5288296., 5418735.};
  const int batches = 3;
  const int m = 16;
  const int k = 14;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK14xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   2501.,    6716.,    10931.,   15146.,   19361.,   23576.,
      27791.,   32006.,   36221.,   40436.,   44651.,   48866.,   53081.,
      57296.,   61511.,   3986.,    10945.,   17904.,   24863.,   31822.,
      38781.,   45740.,   52699.,   59658.,   66617.,   73576.,   80535.,
      87494.,   94453.,   101412.,  5471.,    15174.,   24877.,   34580.,
      44283.,   53986.,   63689.,   73392.,   83095.,   92798.,   102501.,
      112204.,  121907.,  131610.,  141313.,  6956.,    19403.,   31850.,
      44297.,   56744.,   69191.,   81638.,   94085.,   106532.,  118979.,
      131426.,  143873.,  156320.,  168767.,  181214.,  8441.,    23632.,
      38823.,   54014.,   69205.,   84396.,   99587.,   114778.,  129969.,
      145160.,  160351.,  175542.,  190733.,  205924.,  221115.,  9926.,
      27861.,   45796.,   63731.,   81666.,   99601.,   117536.,  135471.,
      153406.,  171341.,  189276.,  207211.,  225146.,  243081.,  261016.,
      11411.,   32090.,   52769.,   73448.,   94127.,   114806.,  135485.,
      156164.,  176843.,  197522.,  218201.,  238880.,  259559.,  280238.,
      300917.,  12896.,   36319.,   59742.,   83165.,   106588.,  130011.,
      153434.,  176857.,  200280.,  223703.,  247126.,  270549.,  293972.,
      317395.,  340818.,  14381.,   40548.,   66715.,   92882.,   119049.,
      145216.,  171383.,  197550.,  223717.,  249884.,  276051.,  302218.,
      328385.,  354552.,  380719.,  15866.,   44777.,   73688.,   102599.,
      131510.,  160421.,  189332.,  218243.,  247154.,  276065.,  304976.,
      333887.,  362798.,  391709.,  420620.,  17351.,   49006.,   80661.,
      112316.,  143971.,  175626.,  207281.,  238936.,  270591.,  302246.,
      333901.,  365556.,  397211.,  428866.,  460521.,  18836.,   53235.,
      87634.,   122033.,  156432.,  190831.,  225230.,  259629.,  294028.,
      328427.,  362826.,  397225.,  431624.,  466023.,  500422.,  20321.,
      57464.,   94607.,   131750.,  168893.,  206036.,  243179.,  280322.,
      317465.,  354608.,  391751.,  428894.,  466037.,  503180.,  540323.,
      21806.,   61693.,   101580.,  141467.,  181354.,  221241.,  261128.,
      301015.,  340902.,  380789.,  420676.,  460563.,  500450.,  540337.,
      580224.,  23291.,   65922.,   108553.,  151184.,  193815.,  236446.,
      279077.,  321708.,  364339.,  406970.,  449601.,  492232.,  534863.,
      577494.,  620125.,  705386.,  750761.,  796136.,  841511.,  886886.,
      932261.,  977636.,  1023011., 1068386., 1113761., 1159136., 1204511.,
      1249886., 1295261., 1340636., 748031.,  796150.,  844269.,  892388.,
      940507.,  988626.,  1036745., 1084864., 1132983., 1181102., 1229221.,
      1277340., 1325459., 1373578., 1421697., 790676.,  841539.,  892402.,
      943265.,  994128.,  1044991., 1095854., 1146717., 1197580., 1248443.,
      1299306., 1350169., 1401032., 1451895., 1502758., 833321.,  886928.,
      940535.,  994142.,  1047749., 1101356., 1154963., 1208570., 1262177.,
      1315784., 1369391., 1422998., 1476605., 1530212., 1583819., 875966.,
      932317.,  988668.,  1045019., 1101370., 1157721., 1214072., 1270423.,
      1326774., 1383125., 1439476., 1495827., 1552178., 1608529., 1664880.,
      918611.,  977706.,  1036801., 1095896., 1154991., 1214086., 1273181.,
      1332276., 1391371., 1450466., 1509561., 1568656., 1627751., 1686846.,
      1745941., 961256.,  1023095., 1084934., 1146773., 1208612., 1270451.,
      1332290., 1394129., 1455968., 1517807., 1579646., 1641485., 1703324.,
      1765163., 1827002., 1003901., 1068484., 1133067., 1197650., 1262233.,
      1326816., 1391399., 1455982., 1520565., 1585148., 1649731., 1714314.,
      1778897., 1843480., 1908063., 1046546., 1113873., 1181200., 1248527.,
      1315854., 1383181., 1450508., 1517835., 1585162., 1652489., 1719816.,
      1787143., 1854470., 1921797., 1989124., 1089191., 1159262., 1229333.,
      1299404., 1369475., 1439546., 1509617., 1579688., 1649759., 1719830.,
      1789901., 1859972., 1930043., 2000114., 2070185., 1131836., 1204651.,
      1277466., 1350281., 1423096., 1495911., 1568726., 1641541., 1714356.,
      1787171., 1859986., 1932801., 2005616., 2078431., 2151246., 1174481.,
      1250040., 1325599., 1401158., 1476717., 1552276., 1627835., 1703394.,
      1778953., 1854512., 1930071., 2005630., 2081189., 2156748., 2232307.,
      1217126., 1295429., 1373732., 1452035., 1530338., 1608641., 1686944.,
      1765247., 1843550., 1921853., 2000156., 2078459., 2156762., 2235065.,
      2313368., 1259771., 1340818., 1421865., 1502912., 1583959., 1665006.,
      1746053., 1827100., 1908147., 1989194., 2070241., 2151288., 2232335.,
      2313382., 2394429., 1302416., 1386207., 1469998., 1553789., 1637580.,
      1721371., 1805162., 1888953., 1972744., 2056535., 2140326., 2224117.,
      2307908., 2391699., 2475490., 1345061., 1431596., 1518131., 1604666.,
      1691201., 1777736., 1864271., 1950806., 2037341., 2123876., 2210411.,
      2296946., 2383481., 2470016., 2556551., 2726876., 2816155., 2905434.,
      2994713., 3083992., 3173271., 3262550., 3351829., 3441108., 3530387.,
      3619666., 3708945., 3798224., 3887503., 3976782., 2810681., 2902704.,
      2994727., 3086750., 3178773., 3270796., 3362819., 3454842., 3546865.,
      3638888., 3730911., 3822934., 3914957., 4006980., 4099003., 2894486.,
      2989253., 3084020., 3178787., 3273554., 3368321., 3463088., 3557855.,
      3652622., 3747389., 3842156., 3936923., 4031690., 4126457., 4221224.,
      2978291., 3075802., 3173313., 3270824., 3368335., 3465846., 3563357.,
      3660868., 3758379., 3855890., 3953401., 4050912., 4148423., 4245934.,
      4343445., 3062096., 3162351., 3262606., 3362861., 3463116., 3563371.,
      3663626., 3763881., 3864136., 3964391., 4064646., 4164901., 4265156.,
      4365411., 4465666., 3145901., 3248900., 3351899., 3454898., 3557897.,
      3660896., 3763895., 3866894., 3969893., 4072892., 4175891., 4278890.,
      4381889., 4484888., 4587887., 3229706., 3335449., 3441192., 3546935.,
      3652678., 3758421., 3864164., 3969907., 4075650., 4181393., 4287136.,
      4392879., 4498622., 4604365., 4710108., 3313511., 3421998., 3530485.,
      3638972., 3747459., 3855946., 3964433., 4072920., 4181407., 4289894.,
      4398381., 4506868., 4615355., 4723842., 4832329., 3397316., 3508547.,
      3619778., 3731009., 3842240., 3953471., 4064702., 4175933., 4287164.,
      4398395., 4509626., 4620857., 4732088., 4843319., 4954550., 3481121.,
      3595096., 3709071., 3823046., 3937021., 4050996., 4164971., 4278946.,
      4392921., 4506896., 4620871., 4734846., 4848821., 4962796., 5076771.,
      3564926., 3681645., 3798364., 3915083., 4031802., 4148521., 4265240.,
      4381959., 4498678., 4615397., 4732116., 4848835., 4965554., 5082273.,
      5198992., 3648731., 3768194., 3887657., 4007120., 4126583., 4246046.,
      4365509., 4484972., 4604435., 4723898., 4843361., 4962824., 5082287.,
      5201750., 5321213., 3732536., 3854743., 3976950., 4099157., 4221364.,
      4343571., 4465778., 4587985., 4710192., 4832399., 4954606., 5076813.,
      5199020., 5321227., 5443434., 3816341., 3941292., 4066243., 4191194.,
      4316145., 4441096., 4566047., 4690998., 4815949., 4940900., 5065851.,
      5190802., 5315753., 5440704., 5565655., 3900146., 4027841., 4155536.,
      4283231., 4410926., 4538621., 4666316., 4794011., 4921706., 5049401.,
      5177096., 5304791., 5432486., 5560181., 5687876., 3983951., 4114390.,
      4244829., 4375268., 4505707., 4636146., 4766585., 4897024., 5027463.,
      5157902., 5288341., 5418780., 5549219., 5679658., 5810097.};
  const int batches = 3;
  const int m = 16;
  const int k = 14;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK14xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1016.,    2487.,    3958.,    5429.,    6900.,    8371.,    9842.,
      11313.,   12784.,   14255.,   15726.,   17197.,   18668.,   20139.,
      21610.,   23081.,   2502.,    6717.,    10932.,   15147.,   19362.,
      23577.,   27792.,   32007.,   36222.,   40437.,   44652.,   48867.,
      53082.,   57297.,   61512.,   65727.,   3988.,    10947.,   17906.,
      24865.,   31824.,   38783.,   45742.,   52701.,   59660.,   66619.,
      73578.,   80537.,   87496.,   94455.,   101414.,  108373.,  5474.,
      15177.,   24880.,   34583.,   44286.,   53989.,   63692.,   73395.,
      83098.,   92801.,   102504.,  112207.,  121910.,  131613.,  141316.,
      151019.,  6960.,    19407.,   31854.,   44301.,   56748.,   69195.,
      81642.,   94089.,   106536.,  118983.,  131430.,  143877.,  156324.,
      168771.,  181218.,  193665.,  8446.,    23637.,   38828.,   54019.,
      69210.,   84401.,   99592.,   114783.,  129974.,  145165.,  160356.,
      175547.,  190738.,  205929.,  221120.,  236311.,  9932.,    27867.,
      45802.,   63737.,   81672.,   99607.,   117542.,  135477.,  153412.,
      171347.,  189282.,  207217.,  225152.,  243087.,  261022.,  278957.,
      11418.,   32097.,   52776.,   73455.,   94134.,   114813.,  135492.,
      156171.,  176850.,  197529.,  218208.,  238887.,  259566.,  280245.,
      300924.,  321603.,  12904.,   36327.,   59750.,   83173.,   106596.,
      130019.,  153442.,  176865.,  200288.,  223711.,  247134.,  270557.,
      293980.,  317403.,  340826.,  364249.,  14390.,   40557.,   66724.,
      92891.,   119058.,  145225.,  171392.,  197559.,  223726.,  249893.,
      276060.,  302227.,  328394.,  354561.,  380728.,  406895.,  15876.,
      44787.,   73698.,   102609.,  131520.,  160431.,  189342.,  218253.,
      247164.,  276075.,  304986.,  333897.,  362808.,  391719.,  420630.,
      449541.,  17362.,   49017.,   80672.,   112327.,  143982.,  175637.,
      207292.,  238947.,  270602.,  302257.,  333912.,  365567.,  397222.,
      428877.,  460532.,  492187.,  18848.,   53247.,   87646.,   122045.,
      156444.,  190843.,  225242.,  259641.,  294040.,  328439.,  362838.,
      397237.,  431636.,  466035.,  500434.,  534833.,  20334.,   57477.,
      94620.,   131763.,  168906.,  206049.,  243192.,  280335.,  317478.,
      354621.,  391764.,  428907.,  466050.,  503193.,  540336.,  577479.,
      21820.,   61707.,   101594.,  141481.,  181368.,  221255.,  261142.,
      301029.,  340916.,  380803.,  420690.,  460577.,  500464.,  540351.,
      580238.,  620125.,  23306.,   65937.,   108568.,  151199.,  193830.,
      236461.,  279092.,  321723.,  364354.,  406985.,  449616.,  492247.,
      534878.,  577509.,  620140.,  662771.,  750776.,  796151.,  841526.,
      886901.,  932276.,  977651.,  1023026., 1068401., 1113776., 1159151.,
      1204526., 1249901., 1295276., 1340651., 1386026., 1431401., 796166.,
      844285.,  892404.,  940523.,  988642.,  1036761., 1084880., 1132999.,
      1181118., 1229237., 1277356., 1325475., 1373594., 1421713., 1469832.,
      1517951., 841556.,  892419.,  943282.,  994145.,  1045008., 1095871.,
      1146734., 1197597., 1248460., 1299323., 1350186., 1401049., 1451912.,
      1502775., 1553638., 1604501., 886946.,  940553.,  994160.,  1047767.,
      1101374., 1154981., 1208588., 1262195., 1315802., 1369409., 1423016.,
      1476623., 1530230., 1583837., 1637444., 1691051., 932336.,  988687.,
      1045038., 1101389., 1157740., 1214091., 1270442., 1326793., 1383144.,
      1439495., 1495846., 1552197., 1608548., 1664899., 1721250., 1777601.,
      977726.,  1036821., 1095916., 1155011., 1214106., 1273201., 1332296.,
      1391391., 1450486., 1509581., 1568676., 1627771., 1686866., 1745961.,
      1805056., 1864151., 1023116., 1084955., 1146794., 1208633., 1270472.,
      1332311., 1394150., 1455989., 1517828., 1579667., 1641506., 1703345.,
      1765184., 1827023., 1888862., 1950701., 1068506., 1133089., 1197672.,
      1262255., 1326838., 1391421., 1456004., 1520587., 1585170., 1649753.,
      1714336., 1778919., 1843502., 1908085., 1972668., 2037251., 1113896.,
      1181223., 1248550., 1315877., 1383204., 1450531., 1517858., 1585185.,
      1652512., 1719839., 1787166., 1854493., 1921820., 1989147., 2056474.,
      2123801., 1159286., 1229357., 1299428., 1369499., 1439570., 1509641.,
      1579712., 1649783., 1719854., 1789925., 1859996., 1930067., 2000138.,
      2070209., 2140280., 2210351., 1204676., 1277491., 1350306., 1423121.,
      1495936., 1568751., 1641566., 1714381., 1787196., 1860011., 1932826.,
      2005641., 2078456., 2151271., 2224086., 2296901., 1250066., 1325625.,
      1401184., 1476743., 1552302., 1627861., 1703420., 1778979., 1854538.,
      1930097., 2005656., 2081215., 2156774., 2232333., 2307892., 2383451.,
      1295456., 1373759., 1452062., 1530365., 1608668., 1686971., 1765274.,
      1843577., 1921880., 2000183., 2078486., 2156789., 2235092., 2313395.,
      2391698., 2470001., 1340846., 1421893., 1502940., 1583987., 1665034.,
      1746081., 1827128., 1908175., 1989222., 2070269., 2151316., 2232363.,
      2313410., 2394457., 2475504., 2556551., 1386236., 1470027., 1553818.,
      1637609., 1721400., 1805191., 1888982., 1972773., 2056564., 2140355.,
      2224146., 2307937., 2391728., 2475519., 2559310., 2643101., 1431626.,
      1518161., 1604696., 1691231., 1777766., 1864301., 1950836., 2037371.,
      2123906., 2210441., 2296976., 2383511., 2470046., 2556581., 2643116.,
      2729651., 2905464., 2994743., 3084022., 3173301., 3262580., 3351859.,
      3441138., 3530417., 3619696., 3708975., 3798254., 3887533., 3976812.,
      4066091., 4155370., 4244649., 2994758., 3086781., 3178804., 3270827.,
      3362850., 3454873., 3546896., 3638919., 3730942., 3822965., 3914988.,
      4007011., 4099034., 4191057., 4283080., 4375103., 3084052., 3178819.,
      3273586., 3368353., 3463120., 3557887., 3652654., 3747421., 3842188.,
      3936955., 4031722., 4126489., 4221256., 4316023., 4410790., 4505557.,
      3173346., 3270857., 3368368., 3465879., 3563390., 3660901., 3758412.,
      3855923., 3953434., 4050945., 4148456., 4245967., 4343478., 4440989.,
      4538500., 4636011., 3262640., 3362895., 3463150., 3563405., 3663660.,
      3763915., 3864170., 3964425., 4064680., 4164935., 4265190., 4365445.,
      4465700., 4565955., 4666210., 4766465., 3351934., 3454933., 3557932.,
      3660931., 3763930., 3866929., 3969928., 4072927., 4175926., 4278925.,
      4381924., 4484923., 4587922., 4690921., 4793920., 4896919., 3441228.,
      3546971., 3652714., 3758457., 3864200., 3969943., 4075686., 4181429.,
      4287172., 4392915., 4498658., 4604401., 4710144., 4815887., 4921630.,
      5027373., 3530522., 3639009., 3747496., 3855983., 3964470., 4072957.,
      4181444., 4289931., 4398418., 4506905., 4615392., 4723879., 4832366.,
      4940853., 5049340., 5157827., 3619816., 3731047., 3842278., 3953509.,
      4064740., 4175971., 4287202., 4398433., 4509664., 4620895., 4732126.,
      4843357., 4954588., 5065819., 5177050., 5288281., 3709110., 3823085.,
      3937060., 4051035., 4165010., 4278985., 4392960., 4506935., 4620910.,
      4734885., 4848860., 4962835., 5076810., 5190785., 5304760., 5418735.,
      3798404., 3915123., 4031842., 4148561., 4265280., 4381999., 4498718.,
      4615437., 4732156., 4848875., 4965594., 5082313., 5199032., 5315751.,
      5432470., 5549189., 3887698., 4007161., 4126624., 4246087., 4365550.,
      4485013., 4604476., 4723939., 4843402., 4962865., 5082328., 5201791.,
      5321254., 5440717., 5560180., 5679643., 3976992., 4099199., 4221406.,
      4343613., 4465820., 4588027., 4710234., 4832441., 4954648., 5076855.,
      5199062., 5321269., 5443476., 5565683., 5687890., 5810097., 4066286.,
      4191237., 4316188., 4441139., 4566090., 4691041., 4815992., 4940943.,
      5065894., 5190845., 5315796., 5440747., 5565698., 5690649., 5815600.,
      5940551., 4155580., 4283275., 4410970., 4538665., 4666360., 4794055.,
      4921750., 5049445., 5177140., 5304835., 5432530., 5560225., 5687920.,
      5815615., 5943310., 6071005., 4244874., 4375313., 4505752., 4636191.,
      4766630., 4897069., 5027508., 5157947., 5288386., 5418825., 5549264.,
      5679703., 5810142., 5940581., 6071020., 6201459.};
  const int batches = 3;
  const int m = 16;
  const int k = 14;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK15xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      3055.,    8231.,    13407.,   18583.,   23759.,   28935.,   34111.,
      39287.,   44463.,   49639.,   54815.,   59991.,   65167.,   70343.,
      4869.,    13420.,   21971.,   30522.,   39073.,   47624.,   56175.,
      64726.,   73277.,   81828.,   90379.,   98930.,   107481.,  116032.,
      6683.,    18609.,   30535.,   42461.,   54387.,   66313.,   78239.,
      90165.,   102091.,  114017.,  125943.,  137869.,  149795.,  161721.,
      8497.,    23798.,   39099.,   54400.,   69701.,   85002.,   100303.,
      115604.,  130905.,  146206.,  161507.,  176808.,  192109.,  207410.,
      10311.,   28987.,   47663.,   66339.,   85015.,   103691.,  122367.,
      141043.,  159719.,  178395.,  197071.,  215747.,  234423.,  253099.,
      12125.,   34176.,   56227.,   78278.,   100329.,  122380.,  144431.,
      166482.,  188533.,  210584.,  232635.,  254686.,  276737.,  298788.,
      13939.,   39365.,   64791.,   90217.,   115643.,  141069.,  166495.,
      191921.,  217347.,  242773.,  268199.,  293625.,  319051.,  344477.,
      15753.,   44554.,   73355.,   102156.,  130957.,  159758.,  188559.,
      217360.,  246161.,  274962.,  303763.,  332564.,  361365.,  390166.,
      17567.,   49743.,   81919.,   114095.,  146271.,  178447.,  210623.,
      242799.,  274975.,  307151.,  339327.,  371503.,  403679.,  435855.,
      19381.,   54932.,   90483.,   126034.,  161585.,  197136.,  232687.,
      268238.,  303789.,  339340.,  374891.,  410442.,  445993.,  481544.,
      21195.,   60121.,   99047.,   137973.,  176899.,  215825.,  254751.,
      293677.,  332603.,  371529.,  410455.,  449381.,  488307.,  527233.,
      23009.,   65310.,   107611.,  149912.,  192213.,  234514.,  276815.,
      319116.,  361417.,  403718.,  446019.,  488320.,  530621.,  572922.,
      24823.,   70499.,   116175.,  161851.,  207527.,  253203.,  298879.,
      344555.,  390231.,  435907.,  481583.,  527259.,  572935.,  618611.,
      26637.,   75688.,   124739.,  173790.,  222841.,  271892.,  320943.,
      369994.,  419045.,  468096.,  517147.,  566198.,  615249.,  664300.,
      28451.,   80877.,   133303.,  185729.,  238155.,  290581.,  343007.,
      395433.,  447859.,  500285.,  552711.,  605137.,  657563.,  709989.,
      811465.,  867266.,  923067.,  978868.,  1034669., 1090470., 1146271.,
      1202072., 1257873., 1313674., 1369475., 1425276., 1481077., 1536878.,
      860529.,  919705.,  978881.,  1038057., 1097233., 1156409., 1215585.,
      1274761., 1333937., 1393113., 1452289., 1511465., 1570641., 1629817.,
      909593.,  972144.,  1034695., 1097246., 1159797., 1222348., 1284899.,
      1347450., 1410001., 1472552., 1535103., 1597654., 1660205., 1722756.,
      958657.,  1024583., 1090509., 1156435., 1222361., 1288287., 1354213.,
      1420139., 1486065., 1551991., 1617917., 1683843., 1749769., 1815695.,
      1007721., 1077022., 1146323., 1215624., 1284925., 1354226., 1423527.,
      1492828., 1562129., 1631430., 1700731., 1770032., 1839333., 1908634.,
      1056785., 1129461., 1202137., 1274813., 1347489., 1420165., 1492841.,
      1565517., 1638193., 1710869., 1783545., 1856221., 1928897., 2001573.,
      1105849., 1181900., 1257951., 1334002., 1410053., 1486104., 1562155.,
      1638206., 1714257., 1790308., 1866359., 1942410., 2018461., 2094512.,
      1154913., 1234339., 1313765., 1393191., 1472617., 1552043., 1631469.,
      1710895., 1790321., 1869747., 1949173., 2028599., 2108025., 2187451.,
      1203977., 1286778., 1369579., 1452380., 1535181., 1617982., 1700783.,
      1783584., 1866385., 1949186., 2031987., 2114788., 2197589., 2280390.,
      1253041., 1339217., 1425393., 1511569., 1597745., 1683921., 1770097.,
      1856273., 1942449., 2028625., 2114801., 2200977., 2287153., 2373329.,
      1302105., 1391656., 1481207., 1570758., 1660309., 1749860., 1839411.,
      1928962., 2018513., 2108064., 2197615., 2287166., 2376717., 2466268.,
      1351169., 1444095., 1537021., 1629947., 1722873., 1815799., 1908725.,
      2001651., 2094577., 2187503., 2280429., 2373355., 2466281., 2559207.,
      1400233., 1496534., 1592835., 1689136., 1785437., 1881738., 1978039.,
      2074340., 2170641., 2266942., 2363243., 2459544., 2555845., 2652146.,
      1449297., 1548973., 1648649., 1748325., 1848001., 1947677., 2047353.,
      2147029., 2246705., 2346381., 2446057., 2545733., 2645409., 2745085.,
      1498361., 1601412., 1704463., 1807514., 1910565., 2013616., 2116667.,
      2219718., 2322769., 2425820., 2528871., 2631922., 2734973., 2838024.,
      1547425., 1653851., 1760277., 1866703., 1973129., 2079555., 2185981.,
      2292407., 2398833., 2505259., 2611685., 2718111., 2824537., 2930963.,
      3133689., 3243490., 3353291., 3463092., 3572893., 3682694., 3792495.,
      3902296., 4012097., 4121898., 4231699., 4341500., 4451301., 4561102.,
      3230003., 3343179., 3456355., 3569531., 3682707., 3795883., 3909059.,
      4022235., 4135411., 4248587., 4361763., 4474939., 4588115., 4701291.,
      3326317., 3442868., 3559419., 3675970., 3792521., 3909072., 4025623.,
      4142174., 4258725., 4375276., 4491827., 4608378., 4724929., 4841480.,
      3422631., 3542557., 3662483., 3782409., 3902335., 4022261., 4142187.,
      4262113., 4382039., 4501965., 4621891., 4741817., 4861743., 4981669.,
      3518945., 3642246., 3765547., 3888848., 4012149., 4135450., 4258751.,
      4382052., 4505353., 4628654., 4751955., 4875256., 4998557., 5121858.,
      3615259., 3741935., 3868611., 3995287., 4121963., 4248639., 4375315.,
      4501991., 4628667., 4755343., 4882019., 5008695., 5135371., 5262047.,
      3711573., 3841624., 3971675., 4101726., 4231777., 4361828., 4491879.,
      4621930., 4751981., 4882032., 5012083., 5142134., 5272185., 5402236.,
      3807887., 3941313., 4074739., 4208165., 4341591., 4475017., 4608443.,
      4741869., 4875295., 5008721., 5142147., 5275573., 5408999., 5542425.,
      3904201., 4041002., 4177803., 4314604., 4451405., 4588206., 4725007.,
      4861808., 4998609., 5135410., 5272211., 5409012., 5545813., 5682614.,
      4000515., 4140691., 4280867., 4421043., 4561219., 4701395., 4841571.,
      4981747., 5121923., 5262099., 5402275., 5542451., 5682627., 5822803.,
      4096829., 4240380., 4383931., 4527482., 4671033., 4814584., 4958135.,
      5101686., 5245237., 5388788., 5532339., 5675890., 5819441., 5962992.,
      4193143., 4340069., 4486995., 4633921., 4780847., 4927773., 5074699.,
      5221625., 5368551., 5515477., 5662403., 5809329., 5956255., 6103181.,
      4289457., 4439758., 4590059., 4740360., 4890661., 5040962., 5191263.,
      5341564., 5491865., 5642166., 5792467., 5942768., 6093069., 6243370.,
      4385771., 4539447., 4693123., 4846799., 5000475., 5154151., 5307827.,
      5461503., 5615179., 5768855., 5922531., 6076207., 6229883., 6383559.,
      4482085., 4639136., 4796187., 4953238., 5110289., 5267340., 5424391.,
      5581442., 5738493., 5895544., 6052595., 6209646., 6366697., 6523748.,
      4578399., 4738825., 4899251., 5059677., 5220103., 5380529., 5540955.,
      5701381., 5861807., 6022233., 6182659., 6343085., 6503511., 6663937.};
  const int batches = 3;
  const int m = 16;
  const int k = 15;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK15xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   3056.,    8232.,    13408.,   18584.,   23760.,   28936.,
      34112.,   39288.,   44464.,   49640.,   54816.,   59992.,   65168.,
      70344.,   75520.,   4871.,    13422.,   21973.,   30524.,   39075.,
      47626.,   56177.,   64728.,   73279.,   81830.,   90381.,   98932.,
      107483.,  116034.,  124585.,  6686.,    18612.,   30538.,   42464.,
      54390.,   66316.,   78242.,   90168.,   102094.,  114020.,  125946.,
      137872.,  149798.,  161724.,  173650.,  8501.,    23802.,   39103.,
      54404.,   69705.,   85006.,   100307.,  115608.,  130909.,  146210.,
      161511.,  176812.,  192113.,  207414.,  222715.,  10316.,   28992.,
      47668.,   66344.,   85020.,   103696.,  122372.,  141048.,  159724.,
      178400.,  197076.,  215752.,  234428.,  253104.,  271780.,  12131.,
      34182.,   56233.,   78284.,   100335.,  122386.,  144437.,  166488.,
      188539.,  210590.,  232641.,  254692.,  276743.,  298794.,  320845.,
      13946.,   39372.,   64798.,   90224.,   115650.,  141076.,  166502.,
      191928.,  217354.,  242780.,  268206.,  293632.,  319058.,  344484.,
      369910.,  15761.,   44562.,   73363.,   102164.,  130965.,  159766.,
      188567.,  217368.,  246169.,  274970.,  303771.,  332572.,  361373.,
      390174.,  418975.,  17576.,   49752.,   81928.,   114104.,  146280.,
      178456.,  210632.,  242808.,  274984.,  307160.,  339336.,  371512.,
      403688.,  435864.,  468040.,  19391.,   54942.,   90493.,   126044.,
      161595.,  197146.,  232697.,  268248.,  303799.,  339350.,  374901.,
      410452.,  446003.,  481554.,  517105.,  21206.,   60132.,   99058.,
      137984.,  176910.,  215836.,  254762.,  293688.,  332614.,  371540.,
      410466.,  449392.,  488318.,  527244.,  566170.,  23021.,   65322.,
      107623.,  149924.,  192225.,  234526.,  276827.,  319128.,  361429.,
      403730.,  446031.,  488332.,  530633.,  572934.,  615235.,  24836.,
      70512.,   116188.,  161864.,  207540.,  253216.,  298892.,  344568.,
      390244.,  435920.,  481596.,  527272.,  572948.,  618624.,  664300.,
      26651.,   75702.,   124753.,  173804.,  222855.,  271906.,  320957.,
      370008.,  419059.,  468110.,  517161.,  566212.,  615263.,  664314.,
      713365.,  28466.,   80892.,   133318.,  185744.,  238170.,  290596.,
      343022.,  395448.,  447874.,  500300.,  552726.,  605152.,  657578.,
      710004.,  762430.,  867281.,  923082.,  978883.,  1034684., 1090485.,
      1146286., 1202087., 1257888., 1313689., 1369490., 1425291., 1481092.,
      1536893., 1592694., 1648495., 919721.,  978897.,  1038073., 1097249.,
      1156425., 1215601., 1274777., 1333953., 1393129., 1452305., 1511481.,
      1570657., 1629833., 1689009., 1748185., 972161.,  1034712., 1097263.,
      1159814., 1222365., 1284916., 1347467., 1410018., 1472569., 1535120.,
      1597671., 1660222., 1722773., 1785324., 1847875., 1024601., 1090527.,
      1156453., 1222379., 1288305., 1354231., 1420157., 1486083., 1552009.,
      1617935., 1683861., 1749787., 1815713., 1881639., 1947565., 1077041.,
      1146342., 1215643., 1284944., 1354245., 1423546., 1492847., 1562148.,
      1631449., 1700750., 1770051., 1839352., 1908653., 1977954., 2047255.,
      1129481., 1202157., 1274833., 1347509., 1420185., 1492861., 1565537.,
      1638213., 1710889., 1783565., 1856241., 1928917., 2001593., 2074269.,
      2146945., 1181921., 1257972., 1334023., 1410074., 1486125., 1562176.,
      1638227., 1714278., 1790329., 1866380., 1942431., 2018482., 2094533.,
      2170584., 2246635., 1234361., 1313787., 1393213., 1472639., 1552065.,
      1631491., 1710917., 1790343., 1869769., 1949195., 2028621., 2108047.,
      2187473., 2266899., 2346325., 1286801., 1369602., 1452403., 1535204.,
      1618005., 1700806., 1783607., 1866408., 1949209., 2032010., 2114811.,
      2197612., 2280413., 2363214., 2446015., 1339241., 1425417., 1511593.,
      1597769., 1683945., 1770121., 1856297., 1942473., 2028649., 2114825.,
      2201001., 2287177., 2373353., 2459529., 2545705., 1391681., 1481232.,
      1570783., 1660334., 1749885., 1839436., 1928987., 2018538., 2108089.,
      2197640., 2287191., 2376742., 2466293., 2555844., 2645395., 1444121.,
      1537047., 1629973., 1722899., 1815825., 1908751., 2001677., 2094603.,
      2187529., 2280455., 2373381., 2466307., 2559233., 2652159., 2745085.,
      1496561., 1592862., 1689163., 1785464., 1881765., 1978066., 2074367.,
      2170668., 2266969., 2363270., 2459571., 2555872., 2652173., 2748474.,
      2844775., 1549001., 1648677., 1748353., 1848029., 1947705., 2047381.,
      2147057., 2246733., 2346409., 2446085., 2545761., 2645437., 2745113.,
      2844789., 2944465., 1601441., 1704492., 1807543., 1910594., 2013645.,
      2116696., 2219747., 2322798., 2425849., 2528900., 2631951., 2735002.,
      2838053., 2941104., 3044155., 1653881., 1760307., 1866733., 1973159.,
      2079585., 2186011., 2292437., 2398863., 2505289., 2611715., 2718141.,
      2824567., 2930993., 3037419., 3143845., 3353321., 3463122., 3572923.,
      3682724., 3792525., 3902326., 4012127., 4121928., 4231729., 4341530.,
      4451331., 4561132., 4670933., 4780734., 4890535., 3456386., 3569562.,
      3682738., 3795914., 3909090., 4022266., 4135442., 4248618., 4361794.,
      4474970., 4588146., 4701322., 4814498., 4927674., 5040850., 3559451.,
      3676002., 3792553., 3909104., 4025655., 4142206., 4258757., 4375308.,
      4491859., 4608410., 4724961., 4841512., 4958063., 5074614., 5191165.,
      3662516., 3782442., 3902368., 4022294., 4142220., 4262146., 4382072.,
      4501998., 4621924., 4741850., 4861776., 4981702., 5101628., 5221554.,
      5341480., 3765581., 3888882., 4012183., 4135484., 4258785., 4382086.,
      4505387., 4628688., 4751989., 4875290., 4998591., 5121892., 5245193.,
      5368494., 5491795., 3868646., 3995322., 4121998., 4248674., 4375350.,
      4502026., 4628702., 4755378., 4882054., 5008730., 5135406., 5262082.,
      5388758., 5515434., 5642110., 3971711., 4101762., 4231813., 4361864.,
      4491915., 4621966., 4752017., 4882068., 5012119., 5142170., 5272221.,
      5402272., 5532323., 5662374., 5792425., 4074776., 4208202., 4341628.,
      4475054., 4608480., 4741906., 4875332., 5008758., 5142184., 5275610.,
      5409036., 5542462., 5675888., 5809314., 5942740., 4177841., 4314642.,
      4451443., 4588244., 4725045., 4861846., 4998647., 5135448., 5272249.,
      5409050., 5545851., 5682652., 5819453., 5956254., 6093055., 4280906.,
      4421082., 4561258., 4701434., 4841610., 4981786., 5121962., 5262138.,
      5402314., 5542490., 5682666., 5822842., 5963018., 6103194., 6243370.,
      4383971., 4527522., 4671073., 4814624., 4958175., 5101726., 5245277.,
      5388828., 5532379., 5675930., 5819481., 5963032., 6106583., 6250134.,
      6393685., 4487036., 4633962., 4780888., 4927814., 5074740., 5221666.,
      5368592., 5515518., 5662444., 5809370., 5956296., 6103222., 6250148.,
      6397074., 6544000., 4590101., 4740402., 4890703., 5041004., 5191305.,
      5341606., 5491907., 5642208., 5792509., 5942810., 6093111., 6243412.,
      6393713., 6544014., 6694315., 4693166., 4846842., 5000518., 5154194.,
      5307870., 5461546., 5615222., 5768898., 5922574., 6076250., 6229926.,
      6383602., 6537278., 6690954., 6844630., 4796231., 4953282., 5110333.,
      5267384., 5424435., 5581486., 5738537., 5895588., 6052639., 6209690.,
      6366741., 6523792., 6680843., 6837894., 6994945., 4899296., 5059722.,
      5220148., 5380574., 5541000., 5701426., 5861852., 6022278., 6182704.,
      6343130., 6503556., 6663982., 6824408., 6984834., 7145260.};
  const int batches = 3;
  const int m = 16;
  const int k = 15;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK15xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1241.,    3042.,    4843.,    6644.,    8445.,    10246.,   12047.,
      13848.,   15649.,   17450.,   19251.,   21052.,   22853.,   24654.,
      26455.,   28256.,   3057.,    8233.,    13409.,   18585.,   23761.,
      28937.,   34113.,   39289.,   44465.,   49641.,   54817.,   59993.,
      65169.,   70345.,   75521.,   80697.,   4873.,    13424.,   21975.,
      30526.,   39077.,   47628.,   56179.,   64730.,   73281.,   81832.,
      90383.,   98934.,   107485.,  116036.,  124587.,  133138.,  6689.,
      18615.,   30541.,   42467.,   54393.,   66319.,   78245.,   90171.,
      102097.,  114023.,  125949.,  137875.,  149801.,  161727.,  173653.,
      185579.,  8505.,    23806.,   39107.,   54408.,   69709.,   85010.,
      100311.,  115612.,  130913.,  146214.,  161515.,  176816.,  192117.,
      207418.,  222719.,  238020.,  10321.,   28997.,   47673.,   66349.,
      85025.,   103701.,  122377.,  141053.,  159729.,  178405.,  197081.,
      215757.,  234433.,  253109.,  271785.,  290461.,  12137.,   34188.,
      56239.,   78290.,   100341.,  122392.,  144443.,  166494.,  188545.,
      210596.,  232647.,  254698.,  276749.,  298800.,  320851.,  342902.,
      13953.,   39379.,   64805.,   90231.,   115657.,  141083.,  166509.,
      191935.,  217361.,  242787.,  268213.,  293639.,  319065.,  344491.,
      369917.,  395343.,  15769.,   44570.,   73371.,   102172.,  130973.,
      159774.,  188575.,  217376.,  246177.,  274978.,  303779.,  332580.,
      361381.,  390182.,  418983.,  447784.,  17585.,   49761.,   81937.,
      114113.,  146289.,  178465.,  210641.,  242817.,  274993.,  307169.,
      339345.,  371521.,  403697.,  435873.,  468049.,  500225.,  19401.,
      54952.,   90503.,   126054.,  161605.,  197156.,  232707.,  268258.,
      303809.,  339360.,  374911.,  410462.,  446013.,  481564.,  517115.,
      552666.,  21217.,   60143.,   99069.,   137995.,  176921.,  215847.,
      254773.,  293699.,  332625.,  371551.,  410477.,  449403.,  488329.,
      527255.,  566181.,  605107.,  23033.,   65334.,   107635.,  149936.,
      192237.,  234538.,  276839.,  319140.,  361441.,  403742.,  446043.,
      488344.,  530645.,  572946.,  615247.,  657548.,  24849.,   70525.,
      116201.,  161877.,  207553.,  253229.,  298905.,  344581.,  390257.,
      435933.,  481609.,  527285.,  572961.,  618637.,  664313.,  709989.,
      26665.,   75716.,   124767.,  173818.,  222869.,  271920.,  320971.,
      370022.,  419073.,  468124.,  517175.,  566226.,  615277.,  664328.,
      713379.,  762430.,  28481.,   80907.,   133333.,  185759.,  238185.,
      290611.,  343037.,  395463.,  447889.,  500315.,  552741.,  605167.,
      657593.,  710019.,  762445.,  814871.,  923097.,  978898.,  1034699.,
      1090500., 1146301., 1202102., 1257903., 1313704., 1369505., 1425306.,
      1481107., 1536908., 1592709., 1648510., 1704311., 1760112., 978913.,
      1038089., 1097265., 1156441., 1215617., 1274793., 1333969., 1393145.,
      1452321., 1511497., 1570673., 1629849., 1689025., 1748201., 1807377.,
      1866553., 1034729., 1097280., 1159831., 1222382., 1284933., 1347484.,
      1410035., 1472586., 1535137., 1597688., 1660239., 1722790., 1785341.,
      1847892., 1910443., 1972994., 1090545., 1156471., 1222397., 1288323.,
      1354249., 1420175., 1486101., 1552027., 1617953., 1683879., 1749805.,
      1815731., 1881657., 1947583., 2013509., 2079435., 1146361., 1215662.,
      1284963., 1354264., 1423565., 1492866., 1562167., 1631468., 1700769.,
      1770070., 1839371., 1908672., 1977973., 2047274., 2116575., 2185876.,
      1202177., 1274853., 1347529., 1420205., 1492881., 1565557., 1638233.,
      1710909., 1783585., 1856261., 1928937., 2001613., 2074289., 2146965.,
      2219641., 2292317., 1257993., 1334044., 1410095., 1486146., 1562197.,
      1638248., 1714299., 1790350., 1866401., 1942452., 2018503., 2094554.,
      2170605., 2246656., 2322707., 2398758., 1313809., 1393235., 1472661.,
      1552087., 1631513., 1710939., 1790365., 1869791., 1949217., 2028643.,
      2108069., 2187495., 2266921., 2346347., 2425773., 2505199., 1369625.,
      1452426., 1535227., 1618028., 1700829., 1783630., 1866431., 1949232.,
      2032033., 2114834., 2197635., 2280436., 2363237., 2446038., 2528839.,
      2611640., 1425441., 1511617., 1597793., 1683969., 1770145., 1856321.,
      1942497., 2028673., 2114849., 2201025., 2287201., 2373377., 2459553.,
      2545729., 2631905., 2718081., 1481257., 1570808., 1660359., 1749910.,
      1839461., 1929012., 2018563., 2108114., 2197665., 2287216., 2376767.,
      2466318., 2555869., 2645420., 2734971., 2824522., 1537073., 1629999.,
      1722925., 1815851., 1908777., 2001703., 2094629., 2187555., 2280481.,
      2373407., 2466333., 2559259., 2652185., 2745111., 2838037., 2930963.,
      1592889., 1689190., 1785491., 1881792., 1978093., 2074394., 2170695.,
      2266996., 2363297., 2459598., 2555899., 2652200., 2748501., 2844802.,
      2941103., 3037404., 1648705., 1748381., 1848057., 1947733., 2047409.,
      2147085., 2246761., 2346437., 2446113., 2545789., 2645465., 2745141.,
      2844817., 2944493., 3044169., 3143845., 1704521., 1807572., 1910623.,
      2013674., 2116725., 2219776., 2322827., 2425878., 2528929., 2631980.,
      2735031., 2838082., 2941133., 3044184., 3147235., 3250286., 1760337.,
      1866763., 1973189., 2079615., 2186041., 2292467., 2398893., 2505319.,
      2611745., 2718171., 2824597., 2931023., 3037449., 3143875., 3250301.,
      3356727., 3572953., 3682754., 3792555., 3902356., 4012157., 4121958.,
      4231759., 4341560., 4451361., 4561162., 4670963., 4780764., 4890565.,
      5000366., 5110167., 5219968., 3682769., 3795945., 3909121., 4022297.,
      4135473., 4248649., 4361825., 4475001., 4588177., 4701353., 4814529.,
      4927705., 5040881., 5154057., 5267233., 5380409., 3792585., 3909136.,
      4025687., 4142238., 4258789., 4375340., 4491891., 4608442., 4724993.,
      4841544., 4958095., 5074646., 5191197., 5307748., 5424299., 5540850.,
      3902401., 4022327., 4142253., 4262179., 4382105., 4502031., 4621957.,
      4741883., 4861809., 4981735., 5101661., 5221587., 5341513., 5461439.,
      5581365., 5701291., 4012217., 4135518., 4258819., 4382120., 4505421.,
      4628722., 4752023., 4875324., 4998625., 5121926., 5245227., 5368528.,
      5491829., 5615130., 5738431., 5861732., 4122033., 4248709., 4375385.,
      4502061., 4628737., 4755413., 4882089., 5008765., 5135441., 5262117.,
      5388793., 5515469., 5642145., 5768821., 5895497., 6022173., 4231849.,
      4361900., 4491951., 4622002., 4752053., 4882104., 5012155., 5142206.,
      5272257., 5402308., 5532359., 5662410., 5792461., 5922512., 6052563.,
      6182614., 4341665., 4475091., 4608517., 4741943., 4875369., 5008795.,
      5142221., 5275647., 5409073., 5542499., 5675925., 5809351., 5942777.,
      6076203., 6209629., 6343055., 4451481., 4588282., 4725083., 4861884.,
      4998685., 5135486., 5272287., 5409088., 5545889., 5682690., 5819491.,
      5956292., 6093093., 6229894., 6366695., 6503496., 4561297., 4701473.,
      4841649., 4981825., 5122001., 5262177., 5402353., 5542529., 5682705.,
      5822881., 5963057., 6103233., 6243409., 6383585., 6523761., 6663937.,
      4671113., 4814664., 4958215., 5101766., 5245317., 5388868., 5532419.,
      5675970., 5819521., 5963072., 6106623., 6250174., 6393725., 6537276.,
      6680827., 6824378., 4780929., 4927855., 5074781., 5221707., 5368633.,
      5515559., 5662485., 5809411., 5956337., 6103263., 6250189., 6397115.,
      6544041., 6690967., 6837893., 6984819., 4890745., 5041046., 5191347.,
      5341648., 5491949., 5642250., 5792551., 5942852., 6093153., 6243454.,
      6393755., 6544056., 6694357., 6844658., 6994959., 7145260., 5000561.,
      5154237., 5307913., 5461589., 5615265., 5768941., 5922617., 6076293.,
      6229969., 6383645., 6537321., 6690997., 6844673., 6998349., 7152025.,
      7305701., 5110377., 5267428., 5424479., 5581530., 5738581., 5895632.,
      6052683., 6209734., 6366785., 6523836., 6680887., 6837938., 6994989.,
      7152040., 7309091., 7466142., 5220193., 5380619., 5541045., 5701471.,
      5861897., 6022323., 6182749., 6343175., 6503601., 6664027., 6824453.,
      6984879., 7145305., 7305731., 7466157., 7626583.};
  const int batches = 3;
  const int m = 16;
  const int k = 15;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK16xN14) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      3687.,    9960.,    16233.,   22506.,   28779.,   35052.,   41325.,
      47598.,   53871.,   60144.,   66417.,   72690.,   78963.,   85236.,
      5877.,    16246.,   26615.,   36984.,   47353.,   57722.,   68091.,
      78460.,   88829.,   99198.,   109567.,  119936.,  130305.,  140674.,
      8067.,    22532.,   36997.,   51462.,   65927.,   80392.,   94857.,
      109322.,  123787.,  138252.,  152717.,  167182.,  181647.,  196112.,
      10257.,   28818.,   47379.,   65940.,   84501.,   103062.,  121623.,
      140184.,  158745.,  177306.,  195867.,  214428.,  232989.,  251550.,
      12447.,   35104.,   57761.,   80418.,   103075.,  125732.,  148389.,
      171046.,  193703.,  216360.,  239017.,  261674.,  284331.,  306988.,
      14637.,   41390.,   68143.,   94896.,   121649.,  148402.,  175155.,
      201908.,  228661.,  255414.,  282167.,  308920.,  335673.,  362426.,
      16827.,   47676.,   78525.,   109374.,  140223.,  171072.,  201921.,
      232770.,  263619.,  294468.,  325317.,  356166.,  387015.,  417864.,
      19017.,   53962.,   88907.,   123852.,  158797.,  193742.,  228687.,
      263632.,  298577.,  333522.,  368467.,  403412.,  438357.,  473302.,
      21207.,   60248.,   99289.,   138330.,  177371.,  216412.,  255453.,
      294494.,  333535.,  372576.,  411617.,  450658.,  489699.,  528740.,
      23397.,   66534.,   109671.,  152808.,  195945.,  239082.,  282219.,
      325356.,  368493.,  411630.,  454767.,  497904.,  541041.,  584178.,
      25587.,   72820.,   120053.,  167286.,  214519.,  261752.,  308985.,
      356218.,  403451.,  450684.,  497917.,  545150.,  592383.,  639616.,
      27777.,   79106.,   130435.,  181764.,  233093.,  284422.,  335751.,
      387080.,  438409.,  489738.,  541067.,  592396.,  643725.,  695054.,
      29967.,   85392.,   140817.,  196242.,  251667.,  307092.,  362517.,
      417942.,  473367.,  528792.,  584217.,  639642.,  695067.,  750492.,
      32157.,   91678.,   151199.,  210720.,  270241.,  329762.,  389283.,
      448804.,  508325.,  567846.,  627367.,  686888.,  746409.,  805930.,
      34347.,   97964.,   161581.,  225198.,  288815.,  352432.,  416049.,
      479666.,  543283.,  606900.,  670517.,  734134.,  797751.,  861368.,
      984505.,  1052218., 1119931., 1187644., 1255357., 1323070., 1390783.,
      1458496., 1526209., 1593922., 1661635., 1729348., 1797061., 1864774.,
      1044039., 1115848., 1187657., 1259466., 1331275., 1403084., 1474893.,
      1546702., 1618511., 1690320., 1762129., 1833938., 1905747., 1977556.,
      1103573., 1179478., 1255383., 1331288., 1407193., 1483098., 1559003.,
      1634908., 1710813., 1786718., 1862623., 1938528., 2014433., 2090338.,
      1163107., 1243108., 1323109., 1403110., 1483111., 1563112., 1643113.,
      1723114., 1803115., 1883116., 1963117., 2043118., 2123119., 2203120.,
      1222641., 1306738., 1390835., 1474932., 1559029., 1643126., 1727223.,
      1811320., 1895417., 1979514., 2063611., 2147708., 2231805., 2315902.,
      1282175., 1370368., 1458561., 1546754., 1634947., 1723140., 1811333.,
      1899526., 1987719., 2075912., 2164105., 2252298., 2340491., 2428684.,
      1341709., 1433998., 1526287., 1618576., 1710865., 1803154., 1895443.,
      1987732., 2080021., 2172310., 2264599., 2356888., 2449177., 2541466.,
      1401243., 1497628., 1594013., 1690398., 1786783., 1883168., 1979553.,
      2075938., 2172323., 2268708., 2365093., 2461478., 2557863., 2654248.,
      1460777., 1561258., 1661739., 1762220., 1862701., 1963182., 2063663.,
      2164144., 2264625., 2365106., 2465587., 2566068., 2666549., 2767030.,
      1520311., 1624888., 1729465., 1834042., 1938619., 2043196., 2147773.,
      2252350., 2356927., 2461504., 2566081., 2670658., 2775235., 2879812.,
      1579845., 1688518., 1797191., 1905864., 2014537., 2123210., 2231883.,
      2340556., 2449229., 2557902., 2666575., 2775248., 2883921., 2992594.,
      1639379., 1752148., 1864917., 1977686., 2090455., 2203224., 2315993.,
      2428762., 2541531., 2654300., 2767069., 2879838., 2992607., 3105376.,
      1698913., 1815778., 1932643., 2049508., 2166373., 2283238., 2400103.,
      2516968., 2633833., 2750698., 2867563., 2984428., 3101293., 3218158.,
      1758447., 1879408., 2000369., 2121330., 2242291., 2363252., 2484213.,
      2605174., 2726135., 2847096., 2968057., 3089018., 3209979., 3330940.,
      1817981., 1943038., 2068095., 2193152., 2318209., 2443266., 2568323.,
      2693380., 2818437., 2943494., 3068551., 3193608., 3318665., 3443722.,
      1877515., 2006668., 2135821., 2264974., 2394127., 2523280., 2652433.,
      2781586., 2910739., 3039892., 3169045., 3298198., 3427351., 3556504.,
      3802521., 3935770., 4069019., 4202268., 4335517., 4468766., 4602015.,
      4735264., 4868513., 5001762., 5135011., 5268260., 5401509., 5534758.,
      3919399., 4056744., 4194089., 4331434., 4468779., 4606124., 4743469.,
      4880814., 5018159., 5155504., 5292849., 5430194., 5567539., 5704884.,
      4036277., 4177718., 4319159., 4460600., 4602041., 4743482., 4884923.,
      5026364., 5167805., 5309246., 5450687., 5592128., 5733569., 5875010.,
      4153155., 4298692., 4444229., 4589766., 4735303., 4880840., 5026377.,
      5171914., 5317451., 5462988., 5608525., 5754062., 5899599., 6045136.,
      4270033., 4419666., 4569299., 4718932., 4868565., 5018198., 5167831.,
      5317464., 5467097., 5616730., 5766363., 5915996., 6065629., 6215262.,
      4386911., 4540640., 4694369., 4848098., 5001827., 5155556., 5309285.,
      5463014., 5616743., 5770472., 5924201., 6077930., 6231659., 6385388.,
      4503789., 4661614., 4819439., 4977264., 5135089., 5292914., 5450739.,
      5608564., 5766389., 5924214., 6082039., 6239864., 6397689., 6555514.,
      4620667., 4782588., 4944509., 5106430., 5268351., 5430272., 5592193.,
      5754114., 5916035., 6077956., 6239877., 6401798., 6563719., 6725640.,
      4737545., 4903562., 5069579., 5235596., 5401613., 5567630., 5733647.,
      5899664., 6065681., 6231698., 6397715., 6563732., 6729749., 6895766.,
      4854423., 5024536., 5194649., 5364762., 5534875., 5704988., 5875101.,
      6045214., 6215327., 6385440., 6555553., 6725666., 6895779., 7065892.,
      4971301., 5145510., 5319719., 5493928., 5668137., 5842346., 6016555.,
      6190764., 6364973., 6539182., 6713391., 6887600., 7061809., 7236018.,
      5088179., 5266484., 5444789., 5623094., 5801399., 5979704., 6158009.,
      6336314., 6514619., 6692924., 6871229., 7049534., 7227839., 7406144.,
      5205057., 5387458., 5569859., 5752260., 5934661., 6117062., 6299463.,
      6481864., 6664265., 6846666., 7029067., 7211468., 7393869., 7576270.,
      5321935., 5508432., 5694929., 5881426., 6067923., 6254420., 6440917.,
      6627414., 6813911., 7000408., 7186905., 7373402., 7559899., 7746396.,
      5438813., 5629406., 5819999., 6010592., 6201185., 6391778., 6582371.,
      6772964., 6963557., 7154150., 7344743., 7535336., 7725929., 7916522.,
      5555691., 5750380., 5945069., 6139758., 6334447., 6529136., 6723825.,
      6918514., 7113203., 7307892., 7502581., 7697270., 7891959., 8086648.};
  const int batches = 3;
  const int m = 16;
  const int k = 16;
  const int n = 14;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK16xN15) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   3688.,    9961.,    16234.,   22507.,   28780.,   35053.,
      41326.,   47599.,   53872.,   60145.,   66418.,   72691.,   78964.,
      85237.,   91510.,   5879.,    16248.,   26617.,   36986.,   47355.,
      57724.,   68093.,   78462.,   88831.,   99200.,   109569.,  119938.,
      130307.,  140676.,  151045.,  8070.,    22535.,   37000.,   51465.,
      65930.,   80395.,   94860.,   109325.,  123790.,  138255.,  152720.,
      167185.,  181650.,  196115.,  210580.,  10261.,   28822.,   47383.,
      65944.,   84505.,   103066.,  121627.,  140188.,  158749.,  177310.,
      195871.,  214432.,  232993.,  251554.,  270115.,  12452.,   35109.,
      57766.,   80423.,   103080.,  125737.,  148394.,  171051.,  193708.,
      216365.,  239022.,  261679.,  284336.,  306993.,  329650.,  14643.,
      41396.,   68149.,   94902.,   121655.,  148408.,  175161.,  201914.,
      228667.,  255420.,  282173.,  308926.,  335679.,  362432.,  389185.,
      16834.,   47683.,   78532.,   109381.,  140230.,  171079.,  201928.,
      232777.,  263626.,  294475.,  325324.,  356173.,  387022.,  417871.,
      448720.,  19025.,   53970.,   88915.,   123860.,  158805.,  193750.,
      228695.,  263640.,  298585.,  333530.,  368475.,  403420.,  438365.,
      473310.,  508255.,  21216.,   60257.,   99298.,   138339.,  177380.,
      216421.,  255462.,  294503.,  333544.,  372585.,  411626.,  450667.,
      489708.,  528749.,  567790.,  23407.,   66544.,   109681.,  152818.,
      195955.,  239092.,  282229.,  325366.,  368503.,  411640.,  454777.,
      497914.,  541051.,  584188.,  627325.,  25598.,   72831.,   120064.,
      167297.,  214530.,  261763.,  308996.,  356229.,  403462.,  450695.,
      497928.,  545161.,  592394.,  639627.,  686860.,  27789.,   79118.,
      130447.,  181776.,  233105.,  284434.,  335763.,  387092.,  438421.,
      489750.,  541079.,  592408.,  643737.,  695066.,  746395.,  29980.,
      85405.,   140830.,  196255.,  251680.,  307105.,  362530.,  417955.,
      473380.,  528805.,  584230.,  639655.,  695080.,  750505.,  805930.,
      32171.,   91692.,   151213.,  210734.,  270255.,  329776.,  389297.,
      448818.,  508339.,  567860.,  627381.,  686902.,  746423.,  805944.,
      865465.,  34362.,   97979.,   161596.,  225213.,  288830.,  352447.,
      416064.,  479681.,  543298.,  606915.,  670532.,  734149.,  797766.,
      861383.,  925000.,  1052233., 1119946., 1187659., 1255372., 1323085.,
      1390798., 1458511., 1526224., 1593937., 1661650., 1729363., 1797076.,
      1864789., 1932502., 2000215., 1115864., 1187673., 1259482., 1331291.,
      1403100., 1474909., 1546718., 1618527., 1690336., 1762145., 1833954.,
      1905763., 1977572., 2049381., 2121190., 1179495., 1255400., 1331305.,
      1407210., 1483115., 1559020., 1634925., 1710830., 1786735., 1862640.,
      1938545., 2014450., 2090355., 2166260., 2242165., 1243126., 1323127.,
      1403128., 1483129., 1563130., 1643131., 1723132., 1803133., 1883134.,
      1963135., 2043136., 2123137., 2203138., 2283139., 2363140., 1306757.,
      1390854., 1474951., 1559048., 1643145., 1727242., 1811339., 1895436.,
      1979533., 2063630., 2147727., 2231824., 2315921., 2400018., 2484115.,
      1370388., 1458581., 1546774., 1634967., 1723160., 1811353., 1899546.,
      1987739., 2075932., 2164125., 2252318., 2340511., 2428704., 2516897.,
      2605090., 1434019., 1526308., 1618597., 1710886., 1803175., 1895464.,
      1987753., 2080042., 2172331., 2264620., 2356909., 2449198., 2541487.,
      2633776., 2726065., 1497650., 1594035., 1690420., 1786805., 1883190.,
      1979575., 2075960., 2172345., 2268730., 2365115., 2461500., 2557885.,
      2654270., 2750655., 2847040., 1561281., 1661762., 1762243., 1862724.,
      1963205., 2063686., 2164167., 2264648., 2365129., 2465610., 2566091.,
      2666572., 2767053., 2867534., 2968015., 1624912., 1729489., 1834066.,
      1938643., 2043220., 2147797., 2252374., 2356951., 2461528., 2566105.,
      2670682., 2775259., 2879836., 2984413., 3088990., 1688543., 1797216.,
      1905889., 2014562., 2123235., 2231908., 2340581., 2449254., 2557927.,
      2666600., 2775273., 2883946., 2992619., 3101292., 3209965., 1752174.,
      1864943., 1977712., 2090481., 2203250., 2316019., 2428788., 2541557.,
      2654326., 2767095., 2879864., 2992633., 3105402., 3218171., 3330940.,
      1815805., 1932670., 2049535., 2166400., 2283265., 2400130., 2516995.,
      2633860., 2750725., 2867590., 2984455., 3101320., 3218185., 3335050.,
      3451915., 1879436., 2000397., 2121358., 2242319., 2363280., 2484241.,
      2605202., 2726163., 2847124., 2968085., 3089046., 3210007., 3330968.,
      3451929., 3572890., 1943067., 2068124., 2193181., 2318238., 2443295.,
      2568352., 2693409., 2818466., 2943523., 3068580., 3193637., 3318694.,
      3443751., 3568808., 3693865., 2006698., 2135851., 2265004., 2394157.,
      2523310., 2652463., 2781616., 2910769., 3039922., 3169075., 3298228.,
      3427381., 3556534., 3685687., 3814840., 4069049., 4202298., 4335547.,
      4468796., 4602045., 4735294., 4868543., 5001792., 5135041., 5268290.,
      5401539., 5534788., 5668037., 5801286., 5934535., 4194120., 4331465.,
      4468810., 4606155., 4743500., 4880845., 5018190., 5155535., 5292880.,
      5430225., 5567570., 5704915., 5842260., 5979605., 6116950., 4319191.,
      4460632., 4602073., 4743514., 4884955., 5026396., 5167837., 5309278.,
      5450719., 5592160., 5733601., 5875042., 6016483., 6157924., 6299365.,
      4444262., 4589799., 4735336., 4880873., 5026410., 5171947., 5317484.,
      5463021., 5608558., 5754095., 5899632., 6045169., 6190706., 6336243.,
      6481780., 4569333., 4718966., 4868599., 5018232., 5167865., 5317498.,
      5467131., 5616764., 5766397., 5916030., 6065663., 6215296., 6364929.,
      6514562., 6664195., 4694404., 4848133., 5001862., 5155591., 5309320.,
      5463049., 5616778., 5770507., 5924236., 6077965., 6231694., 6385423.,
      6539152., 6692881., 6846610., 4819475., 4977300., 5135125., 5292950.,
      5450775., 5608600., 5766425., 5924250., 6082075., 6239900., 6397725.,
      6555550., 6713375., 6871200., 7029025., 4944546., 5106467., 5268388.,
      5430309., 5592230., 5754151., 5916072., 6077993., 6239914., 6401835.,
      6563756., 6725677., 6887598., 7049519., 7211440., 5069617., 5235634.,
      5401651., 5567668., 5733685., 5899702., 6065719., 6231736., 6397753.,
      6563770., 6729787., 6895804., 7061821., 7227838., 7393855., 5194688.,
      5364801., 5534914., 5705027., 5875140., 6045253., 6215366., 6385479.,
      6555592., 6725705., 6895818., 7065931., 7236044., 7406157., 7576270.,
      5319759., 5493968., 5668177., 5842386., 6016595., 6190804., 6365013.,
      6539222., 6713431., 6887640., 7061849., 7236058., 7410267., 7584476.,
      7758685., 5444830., 5623135., 5801440., 5979745., 6158050., 6336355.,
      6514660., 6692965., 6871270., 7049575., 7227880., 7406185., 7584490.,
      7762795., 7941100., 5569901., 5752302., 5934703., 6117104., 6299505.,
      6481906., 6664307., 6846708., 7029109., 7211510., 7393911., 7576312.,
      7758713., 7941114., 8123515., 5694972., 5881469., 6067966., 6254463.,
      6440960., 6627457., 6813954., 7000451., 7186948., 7373445., 7559942.,
      7746439., 7932936., 8119433., 8305930., 5820043., 6010636., 6201229.,
      6391822., 6582415., 6773008., 6963601., 7154194., 7344787., 7535380.,
      7725973., 7916566., 8107159., 8297752., 8488345., 5945114., 6139803.,
      6334492., 6529181., 6723870., 6918559., 7113248., 7307937., 7502626.,
      7697315., 7892004., 8086693., 8281382., 8476071., 8670760.};
  const int batches = 3;
  const int m = 16;
  const int k = 16;
  const int n = 15;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}
TYPED_TEST(MatmulBatch3Beta1FalseTrue, M16xK16xN16) {
  using DataType = typename TestFixture::DataType;
  const std::vector<DataType> exp_out = {
      1497.,    3674.,    5851.,    8028.,    10205.,   12382.,   14559.,
      16736.,   18913.,   21090.,   23267.,   25444.,   27621.,   29798.,
      31975.,   34152.,   3689.,    9962.,    16235.,   22508.,   28781.,
      35054.,   41327.,   47600.,   53873.,   60146.,   66419.,   72692.,
      78965.,   85238.,   91511.,   97784.,   5881.,    16250.,   26619.,
      36988.,   47357.,   57726.,   68095.,   78464.,   88833.,   99202.,
      109571.,  119940.,  130309.,  140678.,  151047.,  161416.,  8073.,
      22538.,   37003.,   51468.,   65933.,   80398.,   94863.,   109328.,
      123793.,  138258.,  152723.,  167188.,  181653.,  196118.,  210583.,
      225048.,  10265.,   28826.,   47387.,   65948.,   84509.,   103070.,
      121631.,  140192.,  158753.,  177314.,  195875.,  214436.,  232997.,
      251558.,  270119.,  288680.,  12457.,   35114.,   57771.,   80428.,
      103085.,  125742.,  148399.,  171056.,  193713.,  216370.,  239027.,
      261684.,  284341.,  306998.,  329655.,  352312.,  14649.,   41402.,
      68155.,   94908.,   121661.,  148414.,  175167.,  201920.,  228673.,
      255426.,  282179.,  308932.,  335685.,  362438.,  389191.,  415944.,
      16841.,   47690.,   78539.,   109388.,  140237.,  171086.,  201935.,
      232784.,  263633.,  294482.,  325331.,  356180.,  387029.,  417878.,
      448727.,  479576.,  19033.,   53978.,   88923.,   123868.,  158813.,
      193758.,  228703.,  263648.,  298593.,  333538.,  368483.,  403428.,
      438373.,  473318.,  508263.,  543208.,  21225.,   60266.,   99307.,
      138348.,  177389.,  216430.,  255471.,  294512.,  333553.,  372594.,
      411635.,  450676.,  489717.,  528758.,  567799.,  606840.,  23417.,
      66554.,   109691.,  152828.,  195965.,  239102.,  282239.,  325376.,
      368513.,  411650.,  454787.,  497924.,  541061.,  584198.,  627335.,
      670472.,  25609.,   72842.,   120075.,  167308.,  214541.,  261774.,
      309007.,  356240.,  403473.,  450706.,  497939.,  545172.,  592405.,
      639638.,  686871.,  734104.,  27801.,   79130.,   130459.,  181788.,
      233117.,  284446.,  335775.,  387104.,  438433.,  489762.,  541091.,
      592420.,  643749.,  695078.,  746407.,  797736.,  29993.,   85418.,
      140843.,  196268.,  251693.,  307118.,  362543.,  417968.,  473393.,
      528818.,  584243.,  639668.,  695093.,  750518.,  805943.,  861368.,
      32185.,   91706.,   151227.,  210748.,  270269.,  329790.,  389311.,
      448832.,  508353.,  567874.,  627395.,  686916.,  746437.,  805958.,
      865479.,  925000.,  34377.,   97994.,   161611.,  225228.,  288845.,
      352462.,  416079.,  479696.,  543313.,  606930.,  670547.,  734164.,
      797781.,  861398.,  925015.,  988632.,  1119961., 1187674., 1255387.,
      1323100., 1390813., 1458526., 1526239., 1593952., 1661665., 1729378.,
      1797091., 1864804., 1932517., 2000230., 2067943., 2135656., 1187689.,
      1259498., 1331307., 1403116., 1474925., 1546734., 1618543., 1690352.,
      1762161., 1833970., 1905779., 1977588., 2049397., 2121206., 2193015.,
      2264824., 1255417., 1331322., 1407227., 1483132., 1559037., 1634942.,
      1710847., 1786752., 1862657., 1938562., 2014467., 2090372., 2166277.,
      2242182., 2318087., 2393992., 1323145., 1403146., 1483147., 1563148.,
      1643149., 1723150., 1803151., 1883152., 1963153., 2043154., 2123155.,
      2203156., 2283157., 2363158., 2443159., 2523160., 1390873., 1474970.,
      1559067., 1643164., 1727261., 1811358., 1895455., 1979552., 2063649.,
      2147746., 2231843., 2315940., 2400037., 2484134., 2568231., 2652328.,
      1458601., 1546794., 1634987., 1723180., 1811373., 1899566., 1987759.,
      2075952., 2164145., 2252338., 2340531., 2428724., 2516917., 2605110.,
      2693303., 2781496., 1526329., 1618618., 1710907., 1803196., 1895485.,
      1987774., 2080063., 2172352., 2264641., 2356930., 2449219., 2541508.,
      2633797., 2726086., 2818375., 2910664., 1594057., 1690442., 1786827.,
      1883212., 1979597., 2075982., 2172367., 2268752., 2365137., 2461522.,
      2557907., 2654292., 2750677., 2847062., 2943447., 3039832., 1661785.,
      1762266., 1862747., 1963228., 2063709., 2164190., 2264671., 2365152.,
      2465633., 2566114., 2666595., 2767076., 2867557., 2968038., 3068519.,
      3169000., 1729513., 1834090., 1938667., 2043244., 2147821., 2252398.,
      2356975., 2461552., 2566129., 2670706., 2775283., 2879860., 2984437.,
      3089014., 3193591., 3298168., 1797241., 1905914., 2014587., 2123260.,
      2231933., 2340606., 2449279., 2557952., 2666625., 2775298., 2883971.,
      2992644., 3101317., 3209990., 3318663., 3427336., 1864969., 1977738.,
      2090507., 2203276., 2316045., 2428814., 2541583., 2654352., 2767121.,
      2879890., 2992659., 3105428., 3218197., 3330966., 3443735., 3556504.,
      1932697., 2049562., 2166427., 2283292., 2400157., 2517022., 2633887.,
      2750752., 2867617., 2984482., 3101347., 3218212., 3335077., 3451942.,
      3568807., 3685672., 2000425., 2121386., 2242347., 2363308., 2484269.,
      2605230., 2726191., 2847152., 2968113., 3089074., 3210035., 3330996.,
      3451957., 3572918., 3693879., 3814840., 2068153., 2193210., 2318267.,
      2443324., 2568381., 2693438., 2818495., 2943552., 3068609., 3193666.,
      3318723., 3443780., 3568837., 3693894., 3818951., 3944008., 2135881.,
      2265034., 2394187., 2523340., 2652493., 2781646., 2910799., 3039952.,
      3169105., 3298258., 3427411., 3556564., 3685717., 3814870., 3944023.,
      4073176., 4335577., 4468826., 4602075., 4735324., 4868573., 5001822.,
      5135071., 5268320., 5401569., 5534818., 5668067., 5801316., 5934565.,
      6067814., 6201063., 6334312., 4468841., 4606186., 4743531., 4880876.,
      5018221., 5155566., 5292911., 5430256., 5567601., 5704946., 5842291.,
      5979636., 6116981., 6254326., 6391671., 6529016., 4602105., 4743546.,
      4884987., 5026428., 5167869., 5309310., 5450751., 5592192., 5733633.,
      5875074., 6016515., 6157956., 6299397., 6440838., 6582279., 6723720.,
      4735369., 4880906., 5026443., 5171980., 5317517., 5463054., 5608591.,
      5754128., 5899665., 6045202., 6190739., 6336276., 6481813., 6627350.,
      6772887., 6918424., 4868633., 5018266., 5167899., 5317532., 5467165.,
      5616798., 5766431., 5916064., 6065697., 6215330., 6364963., 6514596.,
      6664229., 6813862., 6963495., 7113128., 5001897., 5155626., 5309355.,
      5463084., 5616813., 5770542., 5924271., 6078000., 6231729., 6385458.,
      6539187., 6692916., 6846645., 7000374., 7154103., 7307832., 5135161.,
      5292986., 5450811., 5608636., 5766461., 5924286., 6082111., 6239936.,
      6397761., 6555586., 6713411., 6871236., 7029061., 7186886., 7344711.,
      7502536., 5268425., 5430346., 5592267., 5754188., 5916109., 6078030.,
      6239951., 6401872., 6563793., 6725714., 6887635., 7049556., 7211477.,
      7373398., 7535319., 7697240., 5401689., 5567706., 5733723., 5899740.,
      6065757., 6231774., 6397791., 6563808., 6729825., 6895842., 7061859.,
      7227876., 7393893., 7559910., 7725927., 7891944., 5534953., 5705066.,
      5875179., 6045292., 6215405., 6385518., 6555631., 6725744., 6895857.,
      7065970., 7236083., 7406196., 7576309., 7746422., 7916535., 8086648.,
      5668217., 5842426., 6016635., 6190844., 6365053., 6539262., 6713471.,
      6887680., 7061889., 7236098., 7410307., 7584516., 7758725., 7932934.,
      8107143., 8281352., 5801481., 5979786., 6158091., 6336396., 6514701.,
      6693006., 6871311., 7049616., 7227921., 7406226., 7584531., 7762836.,
      7941141., 8119446., 8297751., 8476056., 5934745., 6117146., 6299547.,
      6481948., 6664349., 6846750., 7029151., 7211552., 7393953., 7576354.,
      7758755., 7941156., 8123557., 8305958., 8488359., 8670760., 6068009.,
      6254506., 6441003., 6627500., 6813997., 7000494., 7186991., 7373488.,
      7559985., 7746482., 7932979., 8119476., 8305973., 8492470., 8678967.,
      8865464., 6201273., 6391866., 6582459., 6773052., 6963645., 7154238.,
      7344831., 7535424., 7726017., 7916610., 8107203., 8297796., 8488389.,
      8678982., 8869575., 9060168., 6334537., 6529226., 6723915., 6918604.,
      7113293., 7307982., 7502671., 7697360., 7892049., 8086738., 8281427.,
      8476116., 8670805., 8865494., 9060183., 9254872.};
  const int batches = 3;
  const int m = 16;
  const int k = 16;
  const int n = 16;
  const auto beta = static_cast<DataType>(1);
  const DataType max_input_val = 2048.0;
  this->run(exp_out, batches, m, k, n, beta, 0, 0, 0, max_input_val);
}